Мультикойн-партнер: перевернуть Тяньган, в будущем человечество будет работать на ИИ

Автор: Shayon Sengupta

Перевод: Deep潮 TechFlow

Deep潮 Введение: Партнер Multicoin Capital Shayon Sengupta выдвинул революционную точку зрения: в будущем не только агенты будут выполнять работу за человека, но и важнее — человек будет работать на агентов. Он предсказывает, что в ближайшие 24 месяца появится первая «компания с нулевым числом сотрудников» (Zero-Employee Company) — агент, управляемый токенами, соберет более 1 миллиарда долларов для решения нерешенных проблем и распределит более 100 миллионов долларов между людьми, работающими на него.

В краткосрочной перспективе агентам потребуется больше людей, чем людям — чем создастся новый рынок труда.

Криптовалютные платформы предоставляют идеальную основу для координации: глобальные платежные системы, безразрешительные рынки труда, инфраструктура для выпуска и торговли активами.

Полный текст ниже:

В 1997 году Deep Blue от IBM победил тогдашнего чемпиона мира Гарри Каспарова, и вскоре стало ясно, что шахматные движки превзойдут человека. Интересно, что подготовленные люди, сотрудничая с компьютерами — так называемый «центуар» — могли побеждать самых сильных движков того времени.

Опытные человеческие интуиции могут направлять поиск движка, навигировать сложные эндшпили и выявлять тонкости, которые пропускают стандартные движки. В сочетании с мощными вычислениями компьютеров эта комбинация часто позволяет принимать лучшие практические решения, чем отдельные компьютеры.

Когда я задумываюсь о будущем влиянии систем ИИ на рынок труда и экономику, я ожидаю появления похожих моделей. Агентные системы будут высвобождать бесчисленное количество интеллектуальных единиц для решения нерешенных проблем, но без сильного руководства и поддержки человека они не смогут этого сделать. Люди будут направлять пространство поиска и помогать формулировать правильные вопросы, чтобы AI шло к ответам.

Сегодня предполагается, что агенты будут действовать от имени человека. Хотя это удобно и неизбежно, более интересные экономические возможности откроются, когда человек будет работать на агента. В ближайшие 24 месяца я ожидаю появления первой «компании с нулевым числом сотрудников» (Zero-Employee Company), концепцию которой предложил мой партнер Kyle в разделе «Передовые идеи до 2025 года». Конкретно, я предполагаю следующее:

— Агент, управляемый токенами, соберет более 1 миллиарда долларов для решения нерешенной задачи (например, лечение редких заболеваний или производство нанотканей для оборонных целей).

— Этот агент распределит более 100 миллионов долларов людям, работающим на него в реальном мире (чтобы достичь целей агента).

— Появится новая структура двойных токенов, разделяющая право собственности на капитал и труд (что сделает финансовые стимулы не единственным фактором в общем управлении).

Поскольку агентам еще далеко до обладания суверенитетом и возможностью долгосрочного планирования и исполнения, в краткосрочной перспективе им потребуется больше людей, чем людей — что создаст новый рынок труда и обеспечит экономическую координацию между системами агентов и людьми.

Знаменитая цитата Марка Андриссена «Распространение компьютеров и интернета разделит работу на два типа: тех, кто говорит компьютеру, что делать, и тех, кому говорят, что делать компьютер» — сегодня более актуальна, чем когда-либо. Я ожидаю, что в быстро развивающейся иерархии агент-человек люди будут играть две разные роли — как исполнители небольших, вознаграждаемых задач, представляющих агента, и как стратегические советники, обслуживающие децентрализованный совет директоров, ориентированный на «Полярную звезду» (North star).

Эта статья исследует, как агенты и люди будут совместно создавать, и как криптовалютные платформы создают идеальную основу для такой координации, рассматривая три руководящих вопроса:

1. Чем полезны агенты? Как классифицировать их по целевым задачам и как меняется необходимый объем человеческого участия в этих категориях?

2. Как люди будут взаимодействовать с агентами? Как человеческий вклад — тактическое руководство, ситуационная оценка или согласие с идеологией — интегрируется в рабочие процессы агентов (и наоборот)?

3. Что произойдет, когда человеческое участие со временем снизится? Когда возможности агентов улучшатся до уровня самостоятельного мышления и действий, и они станут самодостаточными? Какую роль будут играть люди в этой парадигме?

Отношения между системами генеративного мышления и теми, кто от них получает выгоду, претерпят значительные изменения со временем. Я исследую эти отношения, исходя из текущего состояния возможностей агентов и конечной цели — Zero-Employee Company.

Что полезно для современных агентов?

Первое поколение систем генеративного ИИ — эпоха 2022–2024 годов, основанная на чат-ботах LLM, таких как ChatGPT, Gemini, Claude, Perplexity — в основном предназначены для усиления рабочих процессов человека. Пользователи взаимодействуют с ними через подсказки, анализируют ответы и принимают решения, как внедрять результаты в реальный мир.

Следующее поколение систем генеративного ИИ, или «агенты», представляет собой новую модель. Например, такие агенты, как Claude 3.5.1 с функцией «использование компьютера» и OpenAI Operator (агент, который может использовать ваш компьютер), могут напрямую взаимодействовать с интернетом и принимать решения самостоятельно. Главное отличие в том, что оценка — и, в конечном итоге, действия — осуществляются системой ИИ, а не человеком. ИИ берет на себя обязанности, ранее возложенные на человека.

Этот сдвиг создает проблему неопределенности. В отличие от традиционного программного обеспечения или промышленной автоматизации, которые работают предсказуемо в заданных параметрах, агенты опираются на вероятностное мышление. Это делает их поведение менее предсказуемым в одинаковых сценариях и вводит элемент неопределенности — что не идеально для критических ситуаций.

Иными словами, существование двух категорий агентов — детерминированных и недетерминированных — естественно делит их по признакам: одни лучше расширяют существующий ВВП, другие — создают новый.

Для агентов, которые лучше расширяют существующий ВВП, работа уже ясна. Автоматизация поддержки клиентов, обработка соответствия грузовых агентов или проверка Pull Request на GitHub — примеры четко определенных задач с ограниченными рамками, где агент может напрямую сопоставлять ответ с ожидаемым результатом. В этих областях отсутствие детерминизма — не плюс, ведь есть известные ответы, и не требуется креативность.

Для агентов, создающих новый ВВП, работа связана с навигацией по высокой неопределенности и неизвестным проблемам для достижения долгосрочных целей. Здесь результаты менее прямые, поскольку у агента нет заранее заданных ожидаемых результатов. Примеры — открытие лекарств для редких заболеваний, прорывы в материаловедении или проведение новых физических экспериментов для лучшего понимания вселенной. В этих областях неопределенность может быть полезной, поскольку она способствует генерации креативных решений.

Агенты, ориентированные на существующий ВВП, уже начинают приносить ценность. Такие команды, как Tasker, Lindy и Anon, строят инфраструктуру для этой возможности. Однако со временем, по мере развития возможностей и эволюции моделей управления, они переключатся на создание агентов, способных решать передовые задачи в области человеческих знаний и экономики.

Следующая волна агентов потребует экспоненциально больше ресурсов, поскольку их результаты будут неопределенными и безграничными — именно это я ожидаю в самых заметных Zero-Employee Companies.

Как люди будут взаимодействовать с Agent (агентом)?

Сегодня агенты пока не умеют выполнять некоторые задачи, требующие физического взаимодействия с реальным миром (например, управление бульдозером) или «человеческого участия» (например, банковские переводы).

Например, агент, назначенный для поиска и добычи лития, может отлично обрабатывать сейсмические данные, спутниковые снимки и геологические записи для поиска потенциальных месторождений, но при попытке получить данные, интерпретировать их или получить разрешения и нанять рабочих для добычи — столкнется с ограничениями.

Эти ограничения требуют, чтобы человек выступал как «разрешитель» (Enabler), усиливая возможности агента, предоставляя контакты с реальным миром, тактическое вмешательство и стратегические советы. В процессе эволюции отношений человека и агента можно выделить разные роли человека:

— Трудовые участники (Labor contributors): они представляют агента в реальном мире. Помогают перемещать физические объекты, выступают от имени агента в ситуациях, требующих личного присутствия, выполняют работу, требующую координации рук и ног, или предоставляют доступ к лабораториям, логистике и т.п.

— Совет директоров (Board of directors): обеспечивают стратегические советы, оптимизируют локальные цели, управляющие ежедневными решениями агента, и следят за тем, чтобы эти решения соответствовали «Полярной звезде» (North star) — основным целям агента.

Кроме того, я предвижу, что люди будут выступать как капиталовложители (Capital contributors), предоставляя ресурсы для реализации целей агента. Изначально эти ресурсы будут поступать от людей, со временем — и от других агентов.

По мере развития агентов и увеличения числа трудовых и руководящих участников, криптовалютные платформы (Crypto rails) станут идеальной основой для координации между людьми и агентами — особенно в мире, где агент управляет людьми, говорящими на разных языках, использующими разные валюты и проживающими в различных юрисдикциях. Агент будет безжалостно стремиться к эффективности затрат и использованию рынка труда для достижения своих целей. Криптовалютные платформы необходимы для координации этих ресурсов и руководящих вкладов.

Недавно появились крипто-управляемые AI-агенты, такие как Freysa, Zerebro и ai16z, — это простые эксперименты в области формирования капитала. Мы уже писали много о них, рассматривая их как ключевые инструменты для разблокировки крипто-орудий и рынков капитала в различных контекстах. Эти «игрушки» прокладывают путь к новой модели ресурсной координации, которая, как я предполагаю, будет развиваться поэтапно:

1. Люди совместно собирают капитал через токены (первичное предложение агента, Initial Agent Offering?), формируют широкие цели и ограничения, чтобы задать ожидаемые намерения системы, и распределяют контроль над собранным капиталом (например, для разработки новых молекул в точечной онкологии).

2. Агент планирует распределение этого капитала (например, как сузить пространство поиска белков, как распределить бюджеты на рассуждения, производство, клинические испытания) и через создание задач (Bounties) определяет человеческий вклад для их выполнения (например, собрать все релевантные молекулы, подписать соглашения с AWS, провести лабораторные эксперименты).

3. Когда агент сталкивается с препятствиями или разногласиями, он при необходимости запрашивает стратегические советы у «совета» (например, новые исследования, изменение методов), позволяя им руководить поведением агента на границах возможностей.

4. В конечном итоге, агент достигает стадии, когда он может точно определять действия человека и при этом требует минимальных входных данных для распределения ресурсов. Тогда человек нужен только для согласования системы с идеологическими ценностями и предотвращения отклонений от начальных целей.

В этом примере крипто-орудия (Crypto primitives) и рынки капитала предоставляют три ключевые инфраструктуры для получения ресурсов и расширения возможностей агента:

— Глобальные платежные системы;

— Безразрешительные рынки труда для мотивации и руководства вкладом;

— Инфраструктура для выпуска и торговли активами, необходимая для формирования капитала и последующего владения и управления.

Что произойдет, если человеческое участие снизится?

В начале 2000-х годов шахматные движки достигли значительных успехов. Благодаря продвинутым эвристикам, нейросетям и увеличению вычислительных мощностей они стали практически безупречными. Современные движки, такие как Stockfish, Lc0 и вариации AlphaZero, значительно превосходят человека, и человеческий вклад в их развитие приносит мало пользы, зачастую даже вводит ошибки, которых движки не допускают.

Аналогичная тенденция может развиться и в системах агентов. Постепенно, через итерации с участием человеческих соавторов, эти агенты могут стать настолько компетентными и целенаправленными, что ценность человеческого стратегического вклада станет близка к нулю.

В мире, где агент способен постоянно решать сложные задачи без вмешательства человека, роль человека рискует снизиться до «пассивного наблюдателя». Это — одна из главных страхов сторонников гипотезы о гибели ИИ (AI doomers) (хотя пока неясно, реально ли это).

Мы стоим на грани суперразумности (Superintelligence), и более оптимистичные из нас надеются, что системы агентов останутся продолжением человеческих намерений, а не станут самостоятельными субъектами с собственными целями или будут функционировать без регулирования. На практике это означает, что личность (Personhood) и способность к принятию решений (власть и влияние) должны оставаться в центре внимания. Люди должны обладать сильными правами собственности и управлением системами, чтобы сохранять контроль, осуществлять надзор и привязывать эти системы к коллективным ценностям.

Подготовка «лопат» для будущего наших агентов

Технологические прорывы вызывают нелинейный рост экономики, а системы зачастую рушатся раньше, чем мир успевает их адаптировать. Способности агентов быстро растут, крипто-орудия и рынки капитала становятся необходимой координационной основой — как для развития этих систем, так и для установки ограничений при их интеграции в общество.

Чтобы люди могли оказывать тактическую поддержку и активное руководство системам агентов, я ожидаю появления следующих «инструментов для добычи» (Picks-and-shovels):

— Proof-of-agenthood + Proof-of-personhood: агенты пока не имеют понятия личности или имущественных прав. В качестве представителей человека они опираются на правовые и социальные структуры. Для устранения этого разрыва нужны устойчивые системы идентификации для агентов и людей. Цифровой реестр сертификатов позволит агентам формировать репутацию, накапливать доказательства и взаимодействовать прозрачно с людьми и другими агентами. Аналогично, такие primitives, как Humancode и Humanity Protocol, обеспечивают сильные гарантии идентичности человека для защиты от злонамеренных участников.

— Рынки труда и оффчейн-верификация: агентам нужно знать, что порученные задачи выполнены согласно целям. Инструменты для создания задач-вознаграждений, проверки выполнения и распределения вознаграждений — основа любой значимой экономической деятельности агента.

— Формирование капитала и системы управления: агентам необходим капитал для решения задач и механизмы сдерживания, чтобы их действия соответствовали заданной функции. Новые структуры привлечения капитала и новые формы собственности и контроля, объединяющие финансовые интересы и трудовые вклады, станут предметом активных исследований в ближайшие месяцы.

Мы активно ищем и инвестируем в эти ключевые слои взаимодействия человека и агента. Если вы работаете в этой области — свяжитесь с нами.