Чуть не начали Третью мировую: как галлюцинация ИИ едва не привела к штурму китайского судна спецназом США

Пока широкая публика спорит о том, сможет ли искусственный интеллект в будущем захватить мир, в недрах Пентагона и американских спецслужб ИИ уже едва не спровоцировал полноценный военный конфликт между ядерными державами. Как стало известно из расследования CNN, весной этого года галлюцинация обычного чат-бота чуть не привела к прямому столкновению США и Китая.

Логистический манифест и «ядерный» чат-бот

Цепочка событий, которая едва не закончилась катастрофой века, развивалась следующим образом:

1. Аналитик разведсообщества США изучал манифест груза китайского торгового судна, следовавшего в Иран.

2. Чтобы ускорить работу, он загрузил данные в рабочий чат-бот (по сути, внутренний клон коммерческих ИИ-моделей).

3. ИИ объединил открытые данные с секретными перехватами сигналов и выдал фатальную ошибку — он «галлюцинировал», заявив, что судно везет компоненты для ядерного оружия.

Аналитик не перепроверил данные «вручную», а с помощью того же ИИ быстро упаковал находку в стандартный, вызывающий доверие разведотчет и пустил его по закрытым каналам Пентагона.

Спецназ в воздухе

В Вашингтоне мгновенно объявили высший уровень тревоги. Администрация Дональда Трампа изначально ставила целью не допустить появления у Ирана атомной бомбы, поэтому военное планирование включилось на максимум.

Для перехвата китайского сухогруза была подготовлена экстренная операция. По данным инсайдеров, элитные подразделения спецназа уже были подняты в воздух, готовые пойти на штурм судна под флагом КНР. 

Катастрофу предотвратили буквально в последний момент, когда один из высокопоставленных чиновников решил лично перепроверить исходные данные и обнаружил, что весь отчет построен на выдумке ИИ-бота, который просто неправильно идентифицировал гражданский материал в трюме. Источники в оборонном ведомстве признают: этот сфабрикованный отчет «едва не начал войну».

Системный кризис

Самое тревожное в этой истории то, что это не разовый сбой ленивого студента. Белый дом и Министерство обороны США сейчас директивно внедряют ИИ абсолютно во все сферы: от анализа спутниковых снимков до логистики и автоматического выбора целей для нанесения ударов. 

Оказалось, что поколение американских аналитиков настолько поверило в безошибочность алгоритмов, что готово отправлять войска на штурм китайских кораблей на основе текста, сгенерированного неотлаженным чат-ботом.

И не забывайте подписываться на мой телеграм-канал, Boosty и YouTube-канал