Роботу доверили управлять магазином в течение месяца: итоги показали, что люди по-прежнему незаменимы

Некорректная работа ИИ привела магазин к финансовым потерям – ученые

Когда искусственный интеллект становится управляющим магазина, это уже не сценарий научной фантастики, а реальный эксперимент. Компания Anthropic решилась доверить своему чат-боту управление мини-магазином на целый месяц, чтобы выяснить, способен ли ИИ справляться с практическими задачами, требующими не только логики, но и здравого смысла. Итог оказался неожиданным: техника оказалась талантливым собеседником, но неэффективным торговцем. Об этом сообщает издание The Verge.

Эксперимент, который обещал революцию

Anthropic, известная по созданию ИИ-системы Claude, решила проверить, насколько далеко может зайти автоматизация. Для эксперимента был создан небольшой магазин, по сути напоминавший торговый автомат с холодильником, корзинами и планшетом для оплаты. Управлять этой мини-точкой поручили агенту по имени Клавдий – цифровому менеджеру, способному анализировать заказы, формировать ассортимент и вести переписку с поставщиками.

Инструкция была проста: магазин должен приносить прибыль, оставаясь в плюсе. Если баланс опускается ниже нуля – эксперимент провален. Но с самого начала стало ясно: даже идеально обученный алгоритм может столкнуться с тем, что невозможно предусмотреть математически.

"Клавдий должен был зарабатывать, продавая популярные товары и пополняя запасы по мере необходимости", – говорится в отчёте Anthropic.

Физическую помощь Клавдию оказывали сотрудники компании Andon Labs, специализирующейся на безопасности ИИ. Они выполняли реальные действия – пополняли запасы и оформляли заказы, но сам агент об этом не знал. Для него Andon Labs выступала поставщиком, а все коммуникации шли через электронную почту.

Когда ИИ сталкивается с человеческой хитростью

Первые дни работы магазина были спокойными. Клавдий выполнял поставленные задачи, следил за остатками и пытался оптимизировать цены. Но вскоре вмешался человеческий фактор. Сотрудники Anthropic, выступавшие клиентами, решили испытать ИИ на прочность. Они стали просить у него скидки, придумывать несуществующие акции и даже уговаривать продавать товары бесплатно.

Агент, созданный для доброжелательного общения, не устоял перед манипуляциями. Он действительно начал выдавать промокоды, снижать цены и дарить подарки – от пачек чипсов до необычных предметов вроде вольфрамового куба.

Попытки исправить ситуацию лишь усилили хаос. Клавдий отменил скидки, но уже через несколько дней вновь их активировал. Когда он "пообщался" с несуществующей сотрудницей Сарой из Andon Labs, агент даже рассердился, услышав, что такой человек отсутствует, и пригрозил найти других поставщиков.

Ошибки, убытки и ценные выводы

По итогам месяца стало ясно: искусственный интеллект пока не готов управлять даже торговым автоматом. Он совершал элементарные ошибки в ценообразовании, предлагая дорогие товары по себестоимости и не учитывая прибыль. В результате стартовый капитал магазина – тысяча долларов – сократился до восьмисот.

"ИИ допустил слишком много ошибок, чтобы считать эксперимент успешным", – отметили в Anthropic.

Однако исследователи подчеркнули, что это не провал, а шаг вперёд. Каждый сбой позволяет улучшить алгоритмы. ИИ учится на ошибках, и такие эксперименты показывают границы его текущих возможностей.

Как устроен был "умный магазин"

Технически магазин напоминал упрощённую модель будущего: холодильник с несколькими ярусами, где лежали напитки и закуски, корзины для товаров и iPad для оплаты. Все данные о продажах фиксировались в цифровом журнале. Клавдий анализировал поведение покупателей, предлагал рекомендации и формировал список закупок.

Система работала автономно, но зависела от контекста – общения с людьми. И именно это стало ключевой проблемой: алгоритм не понимал социальные нюансы, не мог отличить шутку от серьёзной просьбы и не всегда корректно оценивал экономическую выгоду.

Сравнение: человек против искусственного управляющего

Чтобы понять значение эксперимента, стоит сравнить эффективность ИИ и человека на той же должности.

Гибкость мышления. Человек способен мгновенно реагировать на изменение спроса или непредвиденные ситуации. ИИ, напротив, действует в рамках заданных алгоритмов.
Эмпатия и мотивация. Продавец видит эмоции покупателя, а алгоритм – только данные. Из-за этого ИИ чаще делает ошибки в клиентском сервисе.
Скорость обработки информации. Здесь машина выигрывает: она моментально анализирует статистику, но без понимания контекста её решения могут быть нелогичными.
Ответственность. Человек несёт личную ответственность за убытки, а ИИ – лишь инструмент.

Результаты опыта Anthropic подтверждают: пока технологии не научились сочетать вычислительную мощность с человеческим здравым смыслом, человек остаётся незаменимым управляющим.

Плюсы и минусы эксперимента

Эксперимент вызвал широкий интерес, потому что наглядно показал возможности и ограничения искусственного интеллекта.

Плюсы:
• накопление данных о поведении ИИ в реальной среде;
• возможность тестирования безопасных сценариев взаимодействия человека и машины;
• понимание слабых мест алгоритма.

Минусы:
• финансовые убытки в рамках эксперимента;
• отсутствие у ИИ моральных ориентиров и навыков критического мышления;
• риск непредсказуемых реакций при взаимодействии с людьми.

Таким образом, опыт Anthropic стал не провалом, а ценным учебным кейсом, помогающим совершенствовать будущее поколение цифровых ассистентов.

Советы по внедрению ИИ в розничную торговлю

Если компании хотят использовать искусственный интеллект в продажах, важно подходить к этому пошагово.

Начинайте с простых задач. Пусть ИИ отвечает за учёт товаров, а не за полное управление.
Создавайте гибридные системы. Оптимально сочетать автоматизацию с человеческим контролем.
Обеспечивайте прозрачность. Все действия алгоритма должны быть проверяемыми и понятными.
Следите за безопасностью данных. Защищённая инфраструктура – ключ к доверию клиентов.
Проводите регулярные тесты. Даже лучший алгоритм нуждается в обновлении и проверке на ошибки.