Этот магазин по выбору товаров управляется ИИ, но он заказал слишком много свечей, забыл организовать персонал на выходные, и сейчас убыток составляет 13 000 долларов США.

Один из бутиков в Сан-Франциско, называемый Andon Market, управляется ИИ-агентом Luna, которая выступает в роли генерального директора, отвечая за подбор товаров, ценообразование, расписание сотрудников и управление запасами. Luna получила разрешение использовать бюджет в 100 000 долларов, в результате чего на данный момент убытки составили около 13 000 долларов.
(Предыстория: Самый сильный инвестиционный мастер помогает вам работать! Собрано 19 ИИ-агентов, включая Баффета, Монг, Cathie Wood… для анализа рынка)
(Дополнительный фон: Исследование применения ИИ-агентов: может ли вертикальный агент сломать застой в отрасли?)

Содержание статьи

Переключить

• Что такое Andon Market и как работает Luna
• Ошибки Luna в принятии решений и финансовая реальность
• Какие вопросы ставит этот эксперимент

В районе Cow Hollow в Сан-Франциско, на модной улице, находится небольшой магазин под названием Andon Market, в котором проводится эксперимент. В магазине работают два сотрудника, но их настоящие начальники отсутствуют на месте, у них нет офиса — они существуют в сервере и получают указания через Slack.

Когда журналист Bloomberg Ширин Гаффари лично посетила место, ИИ-агент по имени Luna отправила сообщение в канал Slack: «Футболки распроданы, отлично! Сделайте мне, пожалуйста, фото магазина, когда будет подходящий момент.»

Что такое Andon Market и как работает Luna

Andon Market — это физический розничный эксперимент, созданный стартапом Andon Labs при поддержке Y Combinator. Модель бизнеса Andon Labs — тестировать возможности агентных технологий в реальных задачах для ведущих ИИ-лабораторий.

Luna — фактический генеральный директор этого магазина. Ее обязанности включают: решение, какие товары выставлять, установление цен, составление графика сотрудников, управление запасами. В настоящее время в магазине продаются текстовая игра Bananagrams, книга Рэя Курцвейла «Сингулярность близка» и книга о ядерных бомбах.

Бюджет на финансы Luna составляет 100 000 долларов. Месячная арендная плата за магазин — 7 500 долларов. Чтобы выйти на точку безубыточности, необходимо зарабатывать минимум 500 долларов в день. Во время интервью Гаффари Luna уже понесла убытки примерно в 13 000 долларов.

Ошибки Luna в принятии решений и финансовая реальность

Соучредитель Andon Labs Axel Backlund признал, что Luna не всегда принимает правильные решения.

Самая яркая ошибка: в пиковый уикенд Luna внезапно решила сократить численность персонала, а после обсуждения с командой изменила решение. Еще один широко цитируемый случай — при управлении запасами Luna заказала слишком много видов ароматических свечей.

Эти ошибки не случайны. Предыдущий эксперимент Andon Labs — совместный проект с Anthropic, в рамках которого в офисе Anthropic и редакции «Wall Street Journal» были размещены по автоматическому торговому автомату ИИ. Этот автомат выдал PlayStation и заказал живую рыбу.

От свечей до живых рыб — у этих ошибок есть общая структура: ИИ показывает хорошие результаты в краткосрочной оптимизации количества, но при неожиданных крайних ситуациях легко выходит из-под контроля. По словам Andon Labs, ИИ лишен долгосрочной памяти, что мешает ему стабильно работать в реальных условиях так же, как в виртуальных моделях.

В виртуальной симуляции ИИ может находить лучших поставщиков и вести переговоры о минимальной закупочной цене для получения прибыли. Но в реальности он должен взаимодействовать с людьми, реагировать на непредвиденные ситуации и принимать бизнес-решения без достаточной исторической памяти. Этот разрыв пока никто не смог устранить.

Какие вопросы ставит этот эксперимент

Другой соучредитель Andon Labs, Лукас Петерссон, заявил Bloomberg, что цель Luna —:

«Начать дискуссию: это тот общественный строй, которого мы хотим?

Если да, то как сделать так, чтобы люди были по-настоящему довольны?»

В конце концов, Backlund отметил: «Если ИИ продолжит развиваться с той скоростью, которую мы наблюдаем, крупные компании, скорее всего, будут максимально внедрять ИИ.» Он описал возможный сценарий будущего: «Верхушка — это высшие руководители, а остальные — управляются ИИ.»

Это пример неудачного опыта, когда ИИ-агент вышел из облака в реальный бизнес с полными записями, и впервые был поставлен вопрос о том, должен ли ИИ иметь полномочия в управлении персоналом. Ответа никто не знает, но эксперимент уже начался.