Manus досягнув проривних результатів у бенчмарку GAIA, викликавши суперечки щодо шляхів розвитку ШІ

Нещодавно Manus досягнув проривних результатів у бенчмарк-тестуванні GAIA, його продуктивність перевищила продуктивність великих мовних моделей того ж рівня. Цей результат свідчить про те, що Manus має можливість самостійно виконувати складні завдання, такі як міжнародні бізнес-угоди, включаючи розподіл умов контракту, стратегічне прогнозування, генерування планів, а також може координувати юридичні та фінансові команди.

Переваги Manus в основному проявляються в трьох аспектах: здатності до динамічного розподілу цілей, міжмодальної інтерпретації та покращеного навчання з пам'яттю. Він може розділяти великі завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних і постійно підвищуючи свою ефективність прийняття рішень за допомогою навчання з підкріпленням, зменшуючи ймовірність помилок.

Цей прогрес знову викликав обговорення в галузі щодо еволюційних шляхів ШІ: чи рухатимемося ми до універсального штучного інтелекту (AGI), що панує в усьому, чи до систем з багатьма агентами (MAS), що співпрацюють?

Дизайнерська концепція Manus містить дві можливості:

1. Шлях AGI: шляхом постійного підвищення рівня одиничного інтелекту, наближаючи його до загальної здатності прийняття рішень людиною.

2. Шлях MAS: як суперкоординатор, керує тисячами агентів у вертикальних сферах, що працюють разом.

На перший погляд, це суперечка про різні шляхи розвитку, але насправді це відображає основний конфлікт у розвитку ШІ: як балансувати між ефективністю та безпекою. Коли одиночний інтелект наближається до AGI, ризик непрозорості його рішень зростає; тоді як співпраця декількох агентів може розподілити ризики, але через затримки в комунікації вони можуть втратити ключові моменти для прийняття рішень.

Прогрес Manus невидимо збільшує вроджені ризики розвитку ШІ, включаючи:

1. Проблема конфіденційності даних: у медичних сценаріях потрібно в реальному часі отримувати доступ до чутливих даних пацієнтів; у фінансових переговорах можуть бути залучені ненаданої фінансової інформації компанії.

2. Алгоритмічна упередженість: під час переговорів про найм можуть пропонуватися несправедливі зарплатні пропозиції для певних груп; під час перевірки юридичних контрактів спостерігається високий рівень помилок у тлумаченні умов нових галузей.

3. Уразливість до атак: Хакери можуть впроваджувати певні звукові частоти, що призводить до помилкового визначення діапазону цін суперника під час переговорів.

Ці питання підкреслюють серйозну реальність: чим розумніша система, тим ширша її атака.

У сфері Web3 безпека завжди була актуальною темою. Навколо цієї теми виникло безліч криптографічних технологічних рішень:

1. Модель нульового довіри: підкреслює необхідність сувірної автентифікації та авторизації для кожного запиту на доступ.

2. Децентралізована ідентичність (DID): реалізація ідентифікації без централізованого реєстру.

3. Повна гомоморфна криптографія (FHE): дозволяє виконувати обчислення над зашифрованими даними без їх розшифрування.

Зокрема, повністю гомоморфне шифрування вважається ключовою технологією для вирішення проблем безпеки в епоху штучного інтелекту. Воно може забезпечити захист на кількох рівнях:

• Дані: Уся інформація, введена користувачем, обробляється в зашифрованому стані, навіть сама система ШІ не може розшифрувати вихідні дані.

• Алгоритмічний рівень: реалізація "зашифрованого навчання моделі" за допомогою FHE, що забезпечує неможливість навіть для розробників заглядати в рішення AI.

• Співпраця: комунікація між кількома агентами здійснюється з використанням порогового шифрування, щоб запобігти витоку даних на глобальному рівні через єдину точку.

Хоча технології безпеки Web3 можуть не мати безпосереднього зв'язку з звичайними користувачами, вони є критично важливими для захисту інтересів користувачів. У цій сфері, що сповнена невідомості, посилення безпеки є необхідним засобом для запобігання перетворенню на "пам'ятку".

В історії вже було кілька проектів, які досліджували сферу безпеки Web3:

• uPort був випущений у 2017 році на основі основної мережі Ethereum, є одним із перших децентралізованих проектів ідентифікації.
• NKN випустила основну мережу на базі моделі нульового довіри у 2019 році.
• Деяка мережа є першим проектом FHE, який запустився на основній мережі, і уклала угоди з кількома відомими установами.

З наближенням технологій штучного інтелекту до рівня людського інтелекту, нетрадиційні системи захисту стають все більш важливими. Такі безпечні технології, як FHE, не лише можуть вирішити поточні проблеми, але й закласти основу для майбутньої ери потужного штучного інтелекту. На шляху до AGI ці безпечні технології більше не є варіантом, а є необхідністю для виживання.