Manus досяг проривного прогресу в бенчмарку GAIA, що викликало роздуми про шляхи розвитку ШІ
Manus встановив новий рекорд у GAIA Бенчмарк, його продуктивність перевершує продуктивність великих мовних моделей того ж рівня. Це означає, що Manus може самостійно виконувати складні завдання, такі як міжнаціональні ділові переговори, які включають аналіз умов контракту, розробку стратегій, генерацію планів, навіть здатен координувати юридичні та фінансові команди. Переваги Manus полягають у його динамічній здатності до розподілу цілей, міжмодальної здатності до міркування та вдосконаленому навчанні з пам'яттю. Він може розбивати складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Прорив Manus знову викликав обговорення в індустрії щодо шляхів розвитку ІІ: чи буде майбутнє у напрямку загального штучного інтелекту (AGI), чи співпраці багатосторонніх агентів (MAS)?
Дизайнерська концепція Manus натякає на дві можливості:
Шлях AGI: шляхом постійного підвищення здібностей окремої розумної системи, щоб наблизити її до рівня комплексного прийняття рішень людиною.
Шлях MAS: використовувати Manus як суперкоординатора для управління тисячами агентів, що спеціалізуються в різних сферах.
Обговорення цих двох шляхів насправді відображає одну з основних проблем розвитку ШІ: як збалансувати ефективність і безпеку? Коли єдина інтелектуальна система все більше наближається до AGI, ризик непрозорості її процесу ухвалення рішень також зростає; в той час як співпраця багатьох агентів може розподілити ризик, але може пропустити ключовий момент ухвалення рішення через затримки в комунікації.
Прогрес Manus також підкреслив вроджені ризики в розвитку ШІ. Наприклад, проблеми конфіденційності даних: у медичному середовищі Manus потрібно отримувати доступ до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені ненадійні фінансові дані компаній. Крім того, існує проблема упередженості алгоритмів, такі як надання несправедливих пропозицій щодо зарплати певним групам під час процесу найму або високий рівень помилок у судовому перегляді контрактів для нових галузей. Вразливості безпеки також є серйозною проблемою, хакери можуть порушити рішення Manus, впроваджуючи певні звукові частоти.
Ці питання підкреслюють один факт: чим розумніша система, тим ширша її потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великого занепокоєння. На основі теорії "неможливого трикутника" (складнощі одночасного досягнення безпеки, децентралізації та масштабованості) виникло безліч криптографічних рішень:
Модель нульового довіри: основа цієї моделі полягає в "не довіряти нікому, завжди перевіряти", що передбачає сувору перевірку особи та авторизацію для кожного запиту на доступ.
Децентралізовані ідентичності (DID): Це новий стандарт ідентифікації, який дозволяє суб’єктам отримувати перевірену та постійну ідентичність без необхідності централізованої реєстрації.
Повна гомоморфна криптографія (FHE): це передова технологія шифрування, яка дозволяє виконувати обчислення над зашифрованими даними без їх розшифрування, особливо підходить для таких сценаріїв, як хмарні обчислення та аутсорсинг даних.
Повна гомоморфна криптографія, як найновіша технологія шифрування, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху ШІ. Вона дозволяє обробляти дані в зашифрованому стані, навіть самі системи ШІ не можуть розшифрувати оригінальну інформацію.
У реальних застосуваннях FHE може підвищити безпеку AI-систем з кількох аспектів:
Дані: Уся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому вигляді, щоб захистити конфіденційність користувача.
Алгоритмічний рівень: реалізація "шифрованого навчання моделі" через FHE, що робить неможливим безпосереднє спостереження за процесом прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами здійснюється за допомогою шифрування з порогом, навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони тісно пов'язані із інтересами кожного. У цьому складному цифровому світі лише постійне посилення заходів безпеки може дійсно захистити права користувачів.
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш досконалі системи захисту. Цінність FHE полягає не лише в вирішенні поточних проблем безпеки, але й у підготовці до майбутньої ери потужного штучного інтелекту. На шляху до AGI FHE більше не є варіантом, а є необхідною умовою для забезпечення безпечного розвитку AI.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
Manus долає бенчмарк GAIA та запускає нове мислення щодо розробки штучного інтелекту та безпеки Web3
Manus досяг проривного прогресу в бенчмарку GAIA, що викликало роздуми про шляхи розвитку ШІ
Manus встановив новий рекорд у GAIA Бенчмарк, його продуктивність перевершує продуктивність великих мовних моделей того ж рівня. Це означає, що Manus може самостійно виконувати складні завдання, такі як міжнаціональні ділові переговори, які включають аналіз умов контракту, розробку стратегій, генерацію планів, навіть здатен координувати юридичні та фінансові команди. Переваги Manus полягають у його динамічній здатності до розподілу цілей, міжмодальної здатності до міркування та вдосконаленому навчанні з пам'яттю. Він може розбивати складні завдання на сотні виконуваних підзавдань, одночасно обробляючи різні типи даних, і постійно підвищувати ефективність прийняття рішень та знижувати рівень помилок за допомогою навчання з підкріпленням.
Прорив Manus знову викликав обговорення в індустрії щодо шляхів розвитку ІІ: чи буде майбутнє у напрямку загального штучного інтелекту (AGI), чи співпраці багатосторонніх агентів (MAS)?
Дизайнерська концепція Manus натякає на дві можливості:
Шлях AGI: шляхом постійного підвищення здібностей окремої розумної системи, щоб наблизити її до рівня комплексного прийняття рішень людиною.
Шлях MAS: використовувати Manus як суперкоординатора для управління тисячами агентів, що спеціалізуються в різних сферах.
Обговорення цих двох шляхів насправді відображає одну з основних проблем розвитку ШІ: як збалансувати ефективність і безпеку? Коли єдина інтелектуальна система все більше наближається до AGI, ризик непрозорості її процесу ухвалення рішень також зростає; в той час як співпраця багатьох агентів може розподілити ризик, але може пропустити ключовий момент ухвалення рішення через затримки в комунікації.
Прогрес Manus також підкреслив вроджені ризики в розвитку ШІ. Наприклад, проблеми конфіденційності даних: у медичному середовищі Manus потрібно отримувати доступ до чутливих геномних даних пацієнтів; у фінансових переговорах можуть бути залучені ненадійні фінансові дані компаній. Крім того, існує проблема упередженості алгоритмів, такі як надання несправедливих пропозицій щодо зарплати певним групам під час процесу найму або високий рівень помилок у судовому перегляді контрактів для нових галузей. Вразливості безпеки також є серйозною проблемою, хакери можуть порушити рішення Manus, впроваджуючи певні звукові частоти.
Ці питання підкреслюють один факт: чим розумніша система, тим ширша її потенційна площа атаки.
У сфері Web3 безпека завжди була предметом великого занепокоєння. На основі теорії "неможливого трикутника" (складнощі одночасного досягнення безпеки, децентралізації та масштабованості) виникло безліч криптографічних рішень:
Модель нульового довіри: основа цієї моделі полягає в "не довіряти нікому, завжди перевіряти", що передбачає сувору перевірку особи та авторизацію для кожного запиту на доступ.
Децентралізовані ідентичності (DID): Це новий стандарт ідентифікації, який дозволяє суб’єктам отримувати перевірену та постійну ідентичність без необхідності централізованої реєстрації.
Повна гомоморфна криптографія (FHE): це передова технологія шифрування, яка дозволяє виконувати обчислення над зашифрованими даними без їх розшифрування, особливо підходить для таких сценаріїв, як хмарні обчислення та аутсорсинг даних.
Повна гомоморфна криптографія, як найновіша технологія шифрування, має потенціал стати ключовим інструментом для вирішення проблем безпеки в епоху ШІ. Вона дозволяє обробляти дані в зашифрованому стані, навіть самі системи ШІ не можуть розшифрувати оригінальну інформацію.
У реальних застосуваннях FHE може підвищити безпеку AI-систем з кількох аспектів:
Дані: Уся інформація, введена користувачем (включаючи біометричні дані, голос тощо), обробляється в зашифрованому вигляді, щоб захистити конфіденційність користувача.
Алгоритмічний рівень: реалізація "шифрованого навчання моделі" через FHE, що робить неможливим безпосереднє спостереження за процесом прийняття рішень AI навіть для розробників.
Співпраця: комунікація між кількома агентами здійснюється за допомогою шифрування з порогом, навіть якщо один вузол буде зламано, це не призведе до витоку глобальних даних.
Хоча технології безпеки Web3 можуть здаватися далекими для звичайних користувачів, вони тісно пов'язані із інтересами кожного. У цьому складному цифровому світі лише постійне посилення заходів безпеки може дійсно захистити права користувачів.
З розвитком технологій штучного інтелекту, які все більше наближаються до рівня людського інтелекту, нам потрібні більш досконалі системи захисту. Цінність FHE полягає не лише в вирішенні поточних проблем безпеки, але й у підготовці до майбутньої ери потужного штучного інтелекту. На шляху до AGI FHE більше не є варіантом, а є необхідною умовою для забезпечення безпечного розвитку AI.