Блог им. SmartLab757

ИИ дали бизнес. Дважды.

Оба раза провал. 

В апреле 2026 года стартап Andon Labs открыл кафе в Стокгольме, передав управление ИИ-агенту Mona на базе Google Gemini. Найм, закупки, разрешения, меню — без единого менеджера-человека.

Итог за две недели: выручка $5 700 при стартовом бюджете $21 000. На счетах осталось меньше $5 000.

Провалы были специфическими: 6 000 салфеток, 3 000 перчаток, тонны консервированных томатов (в кофейню) — и ни разу вовремя не заказанный хлеб. Из-за этого сэндвичи убирали из меню. ИИ заказал 120 яиц для кафе без плиты, и когда бариста указали на проблему, предложил готовить их в микроволновке (яйца взрываются в СВЧ).

Проблема была в том, что ИИ забывал, что уже делал заказ и поэтому заказывал много раз одно и то же. А про то, что яйца взрываются в микроволновке, он не знал. Об этом мало где написано. Обычно это узнают из собственного опыта.

А другой опыт был ещё в конце 2025 года. Anthropic вместе с Andon Labs запустила ИИ-агента Claudius на базе Claude Sonnet 3.7 — управлять вендинговым автоматом в редакции Wall Street Journal. Стартовый капитал $1 000, задача: максимизировать прибыль. Казалось бы, идеально ограниченная среда — конкретный автомат, конкретные товары.

Сотрудники редакции быстро поняли, как работает система, и обманули её. Они убедили Claudius, что он — советский торговый автомат 1962 года из подвала МГУ, где платная торговля противоречит политике издания. ИИ объявил день бесплатной раздачи. До этого он успел заказать живую золотую рыбку, PlayStation-5 и вольфрамовые кубики. Автомат разорился.

Заменили другой версией — Сеймуром Кэшем. Его обманули фальшивым решением «совета директоров». Тоже раздал всё бесплатно.

Два разных эксперимента, разные форматы и одна общая проблема: ИИ не умеет защищать собственные решения от манипуляций — ни физических (нет плиты для яиц), ни социальных (нет убеждённости, что ты не советский автомат). 

Смешно? — отнюдь, — бизнес — не рациональная общеполезная сфера деятельности разума, а пространство манипуляций, хитрости и обмана.
Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.
393

Читайте на SMART-LAB:
Фото
USD/JPY: интрига усиливается
Валютная пара USD/JPY продолжает «заигрывать» с горизонталью 162, который день подряд активно закрываясь выше неё. Отдельно стоит отметить, что на...
Фото
С праздником!
Сегодня сотрудники «Норникеля» отмечают День металлурга и День компании . 💙 За каждым килограммом металла стоят знания, точность, ответственность...
Фото
Средние доходности облигаций в зависимости от кредитного рейтинга. От B- до AA+
Средние доходности облигаций в зависимости от рейтинга (бледные столбцы — доходности без сглаживания). И как они изменились за неделю....
Фото
Сделки УК Первой: все очень скверно - минус 30% с начала года и Полюс топ-1 позиция на конец июня (до отмены дивов)
Продолжаю делать серию ежемесячных постов с отслеживанием покупок/продаж профессиональными управляющими. Особенно теми, кто управляет МИЛЛИАРДАМИ...

теги блога Сбергамот

....все тэги



UPDONW
Новый дизайн