Блог им. SmartLab757

ИИ дали бизнес. Дважды.

Оба раза провал. 

В апреле 2026 года стартап Andon Labs открыл кафе в Стокгольме, передав управление ИИ-агенту Mona на базе Google Gemini. Найм, закупки, разрешения, меню — без единого менеджера-человека.

Итог за две недели: выручка $5 700 при стартовом бюджете $21 000. На счетах осталось меньше $5 000.

Провалы были специфическими: 6 000 салфеток, 3 000 перчаток, тонны консервированных томатов (в кофейню) — и ни разу вовремя не заказанный хлеб. Из-за этого сэндвичи убирали из меню. ИИ заказал 120 яиц для кафе без плиты, и когда бариста указали на проблему, предложил готовить их в микроволновке (яйца взрываются в СВЧ).

Проблема была в том, что ИИ забывал, что уже делал заказ и поэтому заказывал много раз одно и то же. А про то, что яйца взрываются в микроволновке, он не знал. Об этом мало где написано. Обычно это узнают из собственного опыта.

А другой опыт был ещё в конце 2025 года. Anthropic вместе с Andon Labs запустила ИИ-агента Claudius на базе Claude Sonnet 3.7 — управлять вендинговым автоматом в редакции Wall Street Journal. Стартовый капитал $1 000, задача: максимизировать прибыль. Казалось бы, идеально ограниченная среда — конкретный автомат, конкретные товары.

Сотрудники редакции быстро поняли, как работает система, и обманули её. Они убедили Claudius, что он — советский торговый автомат 1962 года из подвала МГУ, где платная торговля противоречит политике издания. ИИ объявил день бесплатной раздачи. До этого он успел заказать живую золотую рыбку, PlayStation-5 и вольфрамовые кубики. Автомат разорился.

Заменили другой версией — Сеймуром Кэшем. Его обманули фальшивым решением «совета директоров». Тоже раздал всё бесплатно.

Два разных эксперимента, разные форматы и одна общая проблема: ИИ не умеет защищать собственные решения от манипуляций — ни физических (нет плиты для яиц), ни социальных (нет убеждённости, что ты не советский автомат). 

Смешно? — отнюдь, — бизнес — не рациональная общеполезная сфера деятельности разума, а пространство манипуляций, хитрости и обмана.
Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.
410

Читайте на SMART-LAB:
Фото
Портфель Акции / Деньги (+3,2% за 12 мес). Только начало
Все интересующиеся знают: российские акции в минусе. И с начала этого года, и за 12 месяцев, и за прошлый год. На таком фоне...
Цены на топливо в США продолжают обновлять рекорды
В настоящее время ситуация на рынке дизельного топлива в США остаётся напряжённой. К 21 сентября средняя розничная цена достигла рекордных $6,51 за...
Фото
EUR/NZD: битва под линией, или почему быки могут снизить скорость
Кросс-курс EUR/NZD протестировал линию нисходящего тренда и уровень сопротивления 2.0100, который, хоть и сформирован с небольшими графическими...
Фото
Мозговой штурм: какие идеи в моменте?
Доброго вечера. Сегодня мы провели традиционный мозговой штурм. Выпишу некоторые идеи:

теги блога Сбергамот

....все тэги



UPDONW
Новый дизайн