Manus отримав оцінку SOTA (State-of-the-Art) у бенчмарку GAIA, показавши, що його продуктивність перевершила великі моделі Open AI того ж рівня. Іншими словами, він може самостійно виконувати складні завдання, такі як транскордонні ділові переговори, які включають розбивку умов контракту, прогнозування стратегій, генерацію рішень і навіть координацію юридичних і фінансових команд. У порівнянні з традиційними системами, Manus має перевагу у вигляді здатності динамічного розбирання об'єктів, здатності до крос-модального мислення та здатності до навчання покращенню пам'яті. Він може розбивати великі завдання на сотні виконуваних підзавдань, обробляти кілька типів даних одночасно та використовувати навчання з підкріпленням для постійного підвищення ефективності прийняття рішень і зниження рівня помилок.
Окрім захоплення швидким розвитком технологій, Манус знову викликав розбіжності в колі щодо шляху еволюції штучного інтелекту: чи домінуватиме AGI у світі в майбутньому, чи MAS буде синергетично домінуючим?
Це починається з філософії дизайну Manus, яка передбачає дві можливості:
Одним з них є шлях AGI. Завдяки постійному вдосконаленню рівня індивідуального інтелекту він наближається до всеосяжної здатності людини приймати рішення.
Існує також шлях MAS. Як супер-координатор, командуй тисячам вертикальних агентів працювати разом.
На перший погляд, ми обговорюємо різні шляхи, але насправді ми обговорюємо основне протиріччя розвитку штучного інтелекту: як слід збалансувати ефективність і безпеку? Чим ближче монолітний інтелект до AGI, тим вищий ризик прийняття рішень за допомогою чорного ящика. Хоча співпраця з кількома агентами може поширювати ризики, вона може пропустити критичні вікна прийняття рішень через затримки в обміні даними.
Еволюція Manus непомітно збільшила ризики, пов'язані з розвитком штучного інтелекту. Наприклад, чорні діри конфіденційності даних: у медичних сценаріях Manus потребує доступу до геномних даних пацієнта в режимі реального часу; Під час фінансових переговорів це може стосуватися нерозголошеної фінансової інформації компанії; Наприклад, пастка алгоритмічного упередження, у переговорах про найм Манус дає рекомендації щодо зарплати нижче середнього кандидатам певної етнічної приналежності; При перегляді юридичних контрактів рівень неправильних оцінок умов нових галузей становить майже половину. Іншим прикладом є вразливість до змагальної атаки, коли хакери імплантують певні частоти голосу, щоб дозволити Manus неправильно оцінити діапазон пропозицій опонента під час переговорів.
Нам доводиться зіткнутися з жахливою больовою точкою для систем штучного інтелекту: чим розумніша система, тим ширша поверхня атаки.
Однак безпека — це слово, яке часто згадується у web3, і існує безліч методів шифрування, виведених із рамок неможливого трикутника V (блокчейн-мережі не можуть досягти безпеки, децентралізації та масштабованості одночасно):
Основна ідея Zero Trust Security Model :* полягає в тому, що «нікому не довіряй, завжди перевіряй», тобто пристроям не можна довіряти за замовчуванням, незалежно від того, чи знаходяться вони у внутрішній мережі чи ні. Ця модель наголошує на суворій аутентифікації та авторизації для кожного запиту на доступ для забезпечення безпеки системи.
Децентралізована ідентифікація (DID): DID — це набір стандартів ідентифікаторів, які дозволяють ідентифікувати сутності перевіреним і постійним способом без необхідності централізованого реєстру. Це дозволяє створити нову модель децентралізованої цифрової ідентичності, яку часто порівнюють із самосуверенною ідентичністю, яка є важливою частиною Web3.
Повністю гомоморфне шифрування (FHE) — це вдосконалена техніка шифрування, яка дозволяє виконувати довільні обчислення над зашифрованими даними без їх розшифровки. Це означає, що над зашифрованим текстом може оперувати третя сторона, а результат, отриманий після розшифровки, збігається з результатом тієї ж операції над відкритим текстом. Ця функція важлива для сценаріїв, які вимагають обчислень без розкриття необроблених даних, таких як хмарні обчислення та аутсорсинг даних.
Моделі безпеки з нульовою довірою та DID мають певну кількість проектів у кількох раундах бичачих ринків, і вони або досягли успіху, або потонули на хвилі шифрування, і як наймолодший метод шифрування: повністю гомоморфне шифрування (FHE) також є великим вбивцею для вирішення проблем безпеки в епоху штучного інтелекту. Повністю гомоморфне шифрування (FHE) — це технологія, яка дозволяє проводити обчислення на зашифрованих даних.
Як це виправити?
По-перше, на рівні даних. Вся введена користувачем інформація (включаючи біометрію, голосовий тон) обробляється в зашифрованому стані, і навіть сам Manus не може розшифрувати вихідні дані. Наприклад, у разі медичної діагностики геномні дані пацієнта аналізуються в зашифрованому тексті, щоб уникнути витоку біологічної інформації.
Алгоритмічний рівень. «Навчання криптографічної моделі», досягнуте за допомогою PHE, не дає розробникам можливості зазирнути в процес прийняття рішень штучним інтелектом.
На рівні синергії. Порогове шифрування використовується для зв'язку з кількома агентами, і один вузол може бути зламаний без спричинення глобального витоку даних. Навіть під час атак на ланцюжок поставок і оборонних навчань зловмисники проникають у кількох агентів, щоб отримати повне уявлення про бізнес.
Через технічні обмеження безпека web3 може бути не пов'язана безпосередньо з більшістю користувачів, але вона нерозривно пов'язана з непрямими інтересами.
Запущений в основній мережі Ethereum у 2017 році, uPort був, ймовірно, першим проектом децентралізованої ідентифікації (DID), випущеним в основній мережі.
З точки зору моделі безпеки Zero Trust, NKN випустила свою основну мережу в 2019 році.
Mind Network — це перший проєкт PHE, який був запущений у мейннеті, і він зайняв лідируючі позиції у співпраці з ZAMA, Google, DeepSeek тощо.
uPort і NKN – це вже проекти, про які я ніколи не чув, і таке враження, що на проєкти з безпеки дійсно не звертають уваги спекулянти, тому почекаємо і подивимося, чи зможе Mind network уникнути цього прокляття і стати лідером у сфері безпеки.
Майбутнє вже тут. Чим ближче ШІ до людського інтелекту, тим більше він потребує захисту, не пов'язаного з людським. Цінність FHE полягає не тільки у вирішенні проблем сьогодення, але й у тому, щоб прокласти шлях до ери сильного штучного інтелекту. На цьому підступному шляху до AGI FHE – це не варіант, а необхідність для виживання.
Контент має виключно довідковий характер і не є запрошенням до участі або пропозицією. Інвестиційні, податкові чи юридичні консультації не надаються. Перегляньте Відмову від відповідальності , щоб дізнатися більше про ризики.
Manus приносить світанок AGI, і безпека штучного інтелекту також заслуговує на увагу
Manus отримав оцінку SOTA (State-of-the-Art) у бенчмарку GAIA, показавши, що його продуктивність перевершила великі моделі Open AI того ж рівня. Іншими словами, він може самостійно виконувати складні завдання, такі як транскордонні ділові переговори, які включають розбивку умов контракту, прогнозування стратегій, генерацію рішень і навіть координацію юридичних і фінансових команд. У порівнянні з традиційними системами, Manus має перевагу у вигляді здатності динамічного розбирання об'єктів, здатності до крос-модального мислення та здатності до навчання покращенню пам'яті. Він може розбивати великі завдання на сотні виконуваних підзавдань, обробляти кілька типів даних одночасно та використовувати навчання з підкріпленням для постійного підвищення ефективності прийняття рішень і зниження рівня помилок.
! Manus приносить світанок AGI, безпека штучного інтелекту також заслуговує на роздуми
Окрім захоплення швидким розвитком технологій, Манус знову викликав розбіжності в колі щодо шляху еволюції штучного інтелекту: чи домінуватиме AGI у світі в майбутньому, чи MAS буде синергетично домінуючим?
Це починається з філософії дизайну Manus, яка передбачає дві можливості:
Одним з них є шлях AGI. Завдяки постійному вдосконаленню рівня індивідуального інтелекту він наближається до всеосяжної здатності людини приймати рішення.
Існує також шлях MAS. Як супер-координатор, командуй тисячам вертикальних агентів працювати разом.
На перший погляд, ми обговорюємо різні шляхи, але насправді ми обговорюємо основне протиріччя розвитку штучного інтелекту: як слід збалансувати ефективність і безпеку? Чим ближче монолітний інтелект до AGI, тим вищий ризик прийняття рішень за допомогою чорного ящика. Хоча співпраця з кількома агентами може поширювати ризики, вона може пропустити критичні вікна прийняття рішень через затримки в обміні даними.
Еволюція Manus непомітно збільшила ризики, пов'язані з розвитком штучного інтелекту. Наприклад, чорні діри конфіденційності даних: у медичних сценаріях Manus потребує доступу до геномних даних пацієнта в режимі реального часу; Під час фінансових переговорів це може стосуватися нерозголошеної фінансової інформації компанії; Наприклад, пастка алгоритмічного упередження, у переговорах про найм Манус дає рекомендації щодо зарплати нижче середнього кандидатам певної етнічної приналежності; При перегляді юридичних контрактів рівень неправильних оцінок умов нових галузей становить майже половину. Іншим прикладом є вразливість до змагальної атаки, коли хакери імплантують певні частоти голосу, щоб дозволити Manus неправильно оцінити діапазон пропозицій опонента під час переговорів.
Нам доводиться зіткнутися з жахливою больовою точкою для систем штучного інтелекту: чим розумніша система, тим ширша поверхня атаки.
Однак безпека — це слово, яке часто згадується у web3, і існує безліч методів шифрування, виведених із рамок неможливого трикутника V (блокчейн-мережі не можуть досягти безпеки, децентралізації та масштабованості одночасно):
Основна ідея Zero Trust Security Model :* полягає в тому, що «нікому не довіряй, завжди перевіряй», тобто пристроям не можна довіряти за замовчуванням, незалежно від того, чи знаходяться вони у внутрішній мережі чи ні. Ця модель наголошує на суворій аутентифікації та авторизації для кожного запиту на доступ для забезпечення безпеки системи. Децентралізована ідентифікація (DID): DID — це набір стандартів ідентифікаторів, які дозволяють ідентифікувати сутності перевіреним і постійним способом без необхідності централізованого реєстру. Це дозволяє створити нову модель децентралізованої цифрової ідентичності, яку часто порівнюють із самосуверенною ідентичністю, яка є важливою частиною Web3. Повністю гомоморфне шифрування (FHE) — це вдосконалена техніка шифрування, яка дозволяє виконувати довільні обчислення над зашифрованими даними без їх розшифровки. Це означає, що над зашифрованим текстом може оперувати третя сторона, а результат, отриманий після розшифровки, збігається з результатом тієї ж операції над відкритим текстом. Ця функція важлива для сценаріїв, які вимагають обчислень без розкриття необроблених даних, таких як хмарні обчислення та аутсорсинг даних.
Моделі безпеки з нульовою довірою та DID мають певну кількість проектів у кількох раундах бичачих ринків, і вони або досягли успіху, або потонули на хвилі шифрування, і як наймолодший метод шифрування: повністю гомоморфне шифрування (FHE) також є великим вбивцею для вирішення проблем безпеки в епоху штучного інтелекту. Повністю гомоморфне шифрування (FHE) — це технологія, яка дозволяє проводити обчислення на зашифрованих даних.
Як це виправити?
По-перше, на рівні даних. Вся введена користувачем інформація (включаючи біометрію, голосовий тон) обробляється в зашифрованому стані, і навіть сам Manus не може розшифрувати вихідні дані. Наприклад, у разі медичної діагностики геномні дані пацієнта аналізуються в зашифрованому тексті, щоб уникнути витоку біологічної інформації.
Алгоритмічний рівень. «Навчання криптографічної моделі», досягнуте за допомогою PHE, не дає розробникам можливості зазирнути в процес прийняття рішень штучним інтелектом.
На рівні синергії. Порогове шифрування використовується для зв'язку з кількома агентами, і один вузол може бути зламаний без спричинення глобального витоку даних. Навіть під час атак на ланцюжок поставок і оборонних навчань зловмисники проникають у кількох агентів, щоб отримати повне уявлення про бізнес.
Через технічні обмеження безпека web3 може бути не пов'язана безпосередньо з більшістю користувачів, але вона нерозривно пов'язана з непрямими інтересами.
Запущений в основній мережі Ethereum у 2017 році, uPort був, ймовірно, першим проектом децентралізованої ідентифікації (DID), випущеним в основній мережі. З точки зору моделі безпеки Zero Trust, NKN випустила свою основну мережу в 2019 році. Mind Network — це перший проєкт PHE, який був запущений у мейннеті, і він зайняв лідируючі позиції у співпраці з ZAMA, Google, DeepSeek тощо.
uPort і NKN – це вже проекти, про які я ніколи не чув, і таке враження, що на проєкти з безпеки дійсно не звертають уваги спекулянти, тому почекаємо і подивимося, чи зможе Mind network уникнути цього прокляття і стати лідером у сфері безпеки.
Майбутнє вже тут. Чим ближче ШІ до людського інтелекту, тим більше він потребує захисту, не пов'язаного з людським. Цінність FHE полягає не тільки у вирішенні проблем сьогодення, але й у тому, щоб прокласти шлях до ери сильного штучного інтелекту. На цьому підступному шляху до AGI FHE – це не варіант, а необхідність для виживання.