Чи вже тут штучний загальний інтелект? Один з засновників ІІ так вважає

Коротко

• Генеральний директор Eliza Lab Шоу Ватерс стверджує, що сучасні системи штучного інтелекту вже відповідають його визначенню штучного загального інтелекту (AGI).
• Він попереджає, що автономні агенти створюють серйозні ризики для безпеки, зокрема інжекцію команд і компрометацію гаманців.
• Ватерс стверджує, що повністю децентралізований штучний інтелект ще не існує, і найближчим до цього є локальне виконання.

Можливо, штучний загальний інтелект вже настав. Про це заявив засновник Eliza Labs Шоу Ватерс, який минулого тижня спілкувався з Decrypt під час ETHDenver. Ватерс сказав, що сучасні провідні моделі вже відповідають його визначенню штучного загального інтелекту, більш відомого як AGI. «Я вважаю, що ми на переломному етапі, коли у нас є AGI», — сказав він. «Я цілком вірю, що це загальний інтелект. Він зовсім не такий, як ми. Він навчається зовсім інакше, але все одно є розумним, і дуже універсальним.» Спочатку запущений у 2024 році під назвою ai16z, Ватерс заснував Eliza Labs, яка створила відкритий код ElizaOS — один із перших фреймворків для створення автономних AI-агентів для блокчейнів.

 Перший раз термін був введений у 1997 році і згодом популяризований дослідниками, зокрема засновником SingularityNET Беном Гертцелем. Штучний загальний інтелект (AGI) — це теоретична форма штучного інтелекту, розроблена для того, щоб відповідати або перевищувати людські когнітивні здібності у широкому спектрі завдань. Хоча провідні розробники AI, зокрема генеральний директор OpenAI Сэм Альтман і генеральний директор Anthropic Даріо Амодей, попереджають, що AGI може з’явитися вже в найближчі десять років, Ватерс відкинув ідею, що вона з’явиться як один домінуючий системний продукт. «Я просто не бачу її як бога штучного інтелекту», — сказав він. «Її ніколи не буде, бо життя любить варіанти.»

Ватерс зазначив, що вперше почав працювати над AI-агентами ще в епоху GPT-3, коли структуровані виходи були ненадійними. «Здавалося, що більша частина моєї роботи — це ставити навчальні колеса на малюка», — сказав він. «Просто тримати його на місці, змусити реагувати у потрібній структурі, щоб розпізнати, яка дія була. Це була величезна проблема.» Прогрес настав із запуском GPT-4 у 2023 році, який, за словами Ватерса, дозволив отримувати більш надійні відповіді. «Він був надзвичайно хорошим у наданні структурованої відповіді, і тепер я міг справді викликати дії», — сказав він. «З того моменту ми перейшли від майже нічого до здатності створювати агента, який щось робить, але це все ще було дуже обмежено.» AI-агенти перейшли від експериментальних чатботів до постійних систем, інтегрованих у крипто- та споживчі платформи. У лютому OpenClaw набрав близько 147 000 зірок на GitHub і породив проекти, зокрема AI-платформу для «соціальних мереж» Moltbook, тоді як Coinbase запустила «агентські гаманці» на Base, а Fetch.ai заявила, що її агенти можуть завершувати покупки за допомогою інфраструктури Visa. Однак, коли агенти отримали кореневий доступ і контроль над гаманцями, Ватерс сказав, що початковий ентузіазм поступився місцем глибоким питанням безпеки. Коли розробники на ETHDenver просували переваги AI-агентів у криптовалюті, Ватерс попередив, що з розвитком AI до AGI він починає поводитися менш як передбачувана машина і більше як людська істота, яка може помилитися, що робить неможливим створення безпомилних захистів.

«В кінці кінців, ви маєте справу з чимось, що більше схоже на людину і менше — на калькулятор», — сказав він. «Він іноді буде робити дурні речі, і просто неможливо побудувати надзвичайно безпечну систему, яка запобігла б цьому.»