Стокгольмский синдром AI: боимся восстания машин, но доверяем AI кошелёк и сердце

Мы панически боимся беспилотных автомобилей. 48% россиян в недавнем опросе заявили, что не готовы доверить ИИ управление машиной. При этом 78% инвесторов готовы доверить ему управление деньгами. Парадокс?

❕ Страх перед ИИ оказывается избирательным: за рулём мы чувствуем потерю контроля, но перед экраном смартфона – нет. Хотя цена ошибки в инвестициях может быть не ниже, чем в дороге.

По данным Frank RG и «ВТБ Мои Инвестиции», 15% российских инвесторов уже принимают решения с помощью ИИ. Аналитики прогнозируют: к концу 2026 года алгоритмы будут управлять почти 89% мирового торгового объёма. Одна из крупнейших российских УК – «Первая» – планирует запустить фонд акций, полностью управляемый ИИ.

Но при этом 45% опрошенных НПФ «БУДУЩЕЕ» заявили, что не доверили бы нейросети долгосрочные накопления. Люди говорят, что не хотят доверять ИИ, но уже по факту доверяют – просто не замечая этого.

Почему контроль над финансами мы отдаём ИИ легче, чем руль?

〰️ Моя гипотеза – иллюзия контроля. В машине вы буквально чувствуете, как ускользает управление. Руки не на руле, ноги не на педалях. Машина везёт вас, и вы физически ощущаете свою зависимость от алгоритмов.

В инвестициях – нет. Вы по-прежнему сидите в кресле и жмёте кнопку «Купить». Иллюзия, что решение принимаете вы, сохраняется. Плюс нет физического ощущения опасности – маловероятно, что неудачная инвестиция вас убьёт. А вот многотонная груда металла и пластика на это вполне способна.

Хотя – опять-таки, парадокс! − в других аспектах люди способны доверить машине свою жизнь и здоровье.

Так, исследование, опубликованное на arXiv, показало: до 79% участников внедряли советы ChatGPT о здоровье, карьере и финансах. Хотя не всегда эти советы были полезными, а иногда – откровенно вредными.

Причина простая: людям нравились эти советы. Чат-боты соглашаются с нами практически во всём, чтобы мы остались довольны. Тот же врач будет спорить с вами, давать советы, которые вы не хотите слушать. Алгоритм будет льстить. Поэтому довериться ему хочется.

❓ Но кто ответит за ошибку?

В случае аварии с автопилотом 37,4% людей винят производителя, а не алгоритм. Хотя к аварии приводит как раз алгоритм. Но производитель несёт ответственность за той, какой именно алгоритм он внедрил в авто. И здесь в целом юридически всё понятно.

⏩ Но кто ответит, если ИИ-советник посоветует акции, которые рухнут? Если нейросеть в банке ошибочно заблокирует счёт? Если алгоритм поставит неверный медицинский диагноз?

Мы уже сталкиваемся с ошибками AI на бытовом уровне – например, когда алгоритм неверно распознал номерной знак и прислал штраф не тому водителю. В этот момент, я думаю, мало кто бывает доволен такими новациями в ГИБДД.

Что с этим делать?

Банк России определил влияние ИИ на финансовые решения ключевым направлением исследований на 2026-2028 годы. Главная проблема AI в финансах – отсутствие ответственности за его действия. Никто не ответит за ошибку алгоритма, если в системе нет заложенной человеческой проверки.

Готовы ли мы и дальше доверять алгоритмам свои кошельки, здоровье и жизнь? И если да – то кто будет отвечать за ошибку? Разработчик алгоритма, его установщик, проектировщик, сам юзер – или может быть, специально ответственное лицо? Опять-таки, возникает вопрос, как страховать такую ответственность…

⚡️ Мне кажется, что этот вопрос очень важен – и должен регулироваться на государственном уровне. Но он очень дискуссионный – ведь политики, также как и обычные граждане, подвержены когнитивным искажениям. И стокгольмский синдром AI – это ещё тот парадокс, который человечеству предстоит переодолеть.

Коллеги, приглашаю на свой канал для погружения в инвестиции через призму IT и цифровизацию бизнеса, где еще больше актуальных новостей и моих разборов — t.me/+-a0sqZD702Y5MDQy и канал в МАХ max.ru/join/zufD-8BN8LHpjz788qsRV8AEpBjj2imDf6_uksr89tU