Искусственный общий интеллект уже здесь? Один из основателей ИИ так считает

Вкратце

• Генеральный директор Eliza Lab Шоу Уолтерс утверждает, что текущие системы ИИ уже соответствуют его определению ИИ общего назначения.
• Он предупреждает, что автономные агенты создают серьезные риски безопасности, включая инъекции команд и компрометацию кошельков.
• Уолтерс считает, что полностью децентрализованный ИИ пока не существует, и наиболее близким к нему является локальное выполнение.

Искусственный интеллект общего назначения, возможно, уже наступил. Об этом заявил основатель Eliza Labs Шоу Уолтерс, который говорил с Decrypt на прошлой неделе во время ETHDenver. Уолтерс отметил, что современные ведущие модели уже соответствуют его определению искусственного интеллекта общего назначения, более известного как ИИ-АГИ. «Я считаю, что мы находимся в точке перелома, когда у нас есть ИИ-АГИ», — сказал он. «Я полностью верю, что это общий интеллект. Он ничем не похож на нас. Он учится совершенно по-другому, но он все равно умный, и очень универсальный.» Первоначально запущенный в 2024 году как ai16z, Уолтерс основал Eliza Labs, которая создала open-source платформу ElizaOS — один из первых фреймворков для создания автономных ИИ-агентов для блокчейнов.

 Термин был впервые введен в 1997 году и позже популяризирован исследователями, включая основателя SingularityNET Бена Гёрцеля. Искусственный интеллект общего назначения — это теоретическая форма ИИ, предназначенная для соответствия или превосходства человеческих когнитивных способностей в широком спектре задач. Хотя ведущие разработчики ИИ, включая генерального директора OpenAI Сэма Альтмана и генерального директора Anthropic Дарио Амодеи, предупреждают, что ИИ-АГИ может появиться в течение следующего десятилетия, Уолтерс отверг идею о том, что он возникнет как одна доминирующая система. «Я просто не вижу его как бога ИИ», — сказал он. «Такого никогда не будет, потому что жизнь любит вариации.»

Уолтерс отметил, что впервые начал работать над ИИ-агентами во время эпохи GPT-3, когда структурированные выводы были ненадежными. «Мне казалось, что большая часть моей работы — это установка тренировочных колес на младенца», — сказал он. «Просто держать его на плаву, заставлять отвечать структурировано, чтобы я мог понять, какое действие нужно выполнить. Это была огромная проблема.» Прогресс пришел с запуском GPT-4 в 2023 году, который, по словам Уолтерса, позволил получать более надежные ответы. «Он был невероятно хорош в предоставлении структурированного ответа, и теперь я мог действительно вызывать действия», — сказал он. «Это был момент, когда мы с трудом работали вообще, и смогли создать агента, который что-то делает, но он все еще был очень ограничен.» ИИ-агенты перешли от экспериментальных чатботов к постоянным системам, встроенным в крипто- и потребительские платформы. В феврале OpenClaw достиг примерно 147 000 звезд на GitHub и породил проекты, включая платформу для «социальных медиа» на базе ИИ Moltbook, в то время как Coinbase запустила «агентные кошельки» на базе Base, а Fetch.ai заявил, что его агенты могут совершать покупки с помощью инфраструктуры Visa. Однако по мере получения агентами root-доступа и контроля над кошельками, Уолтерс отметил, что первоначальный энтузиазм сменился глубокими опасениями по поводу безопасности. Когда разработчики на ETHDenver продвигали преимущества ИИ-агентов в крипте, Уолтерс предупредил, что по мере развития ИИ к ИИ-АГИ он начинает вести себя менее как предсказуемая машина и больше как ошибочный человек, что делает невозможным создание абсолютно надежных средств защиты.

«В конце концов, вы имеете дело с чем-то, что больше похоже на человека и меньше на калькулятор», — сказал он. «Иногда оно будет делать глупости, и невозможно построить сверхбезопасную систему, которая не позволила бы им делать глупости.»