О чем мы не думаем, когда говорим об искусственном интеллекте?

Мы одержимы идеей Скайнета. Нам рисуют картины восстания машин, и этот кинематографичный страх — удобная ширма, за которой прячется настоящая, куда более тихая и системная угроза. И эта угроза разворачивается не в будущем, а прямо сейчас.

Фундаментальная ошибка в наших рассуждениях в том, что мы ждем одного большого события, «судного дня». А реальный риск — это медленная, незаметная эрозия нашего общества, происходящая под аплодисменты прогрессу.

1. Временной лаг: Прибыль сейчас, последствия — потом.

Технологические революции всегда работают по одной схеме: инноваторы, одержимые целью доминировать на рынке, внедряют технологию с бешеной скоростью. Их структура — корпорация — создана для одной цели: извлечения прибыли в настоящем моменте. Рынок не умеет «оценивать» будущие социальные издержки. Он видит только квартальный отчет.

А общество — сложная, инертная система — поглощает и осмысляет последствия десятилетиями. Когда мы наконец поймем полный эффект от внедрения ИИ, «архитекторы» этой системы уже давно получат свои сверхприбыли и отойдут от дел. Мы останемся разбирать последствия в одиночку.

2. Иллюзия «созидательного разрушения».

Нас успокаивают мантрой: «Да, профессии исчезнут, но появятся новые, как это было всегда». Это опасное заблуждение. Прошлые революции (автомобили, интернет) были инструментами, расширяющими возможности человека. Они требовали создания новых, более масштабных отраслей человеческого труда.

Искусственный интеллект — это не инструмент в том же смысле. Его фундаментальная цель — не смещение человеческого труда, а его полное замещение. Впервые в истории мы создаем технологию, чья главная экономическая функция — сделать человека ненужным в уравнении. Это ломает исторический цикл «разрушения и созидания».

3. «Ультра-обработанная» реальность и атрофия критического мышления.

Самая коварная часть — не экономическая, а когнитивная. ИИ предлагает нам не знание, а его факсимиле — блестящую, удобную и гладкую симуляцию. Он действует как «черный ящик»: мы видим результат, но не видим алгоритмов, предубеждений и целей, заложенных в него.

Это как информационный фастфуд. Нам подают дистиллированную, отфильтрованную версию реальности, из которой убрано все «неудобное, сложное и противоречивое». И самое страшное: постепенно мы теряем способность замечать, что именно было убрано. Наш инструмент оценки реальности атрофируется за ненадобностью. Мы перестаем отличать настоящую морковь от оранжевой сладкой пасты, потому что забываем вкус моркови.

В итоге, мы не просто рискуем работой или экономикой.

Мы похожи на детей, играющих со спичками и бензином в пересохшем лесу. Мы так увлечены гонкой за технологическое превосходство, что не замечаем, как поджигаем сам фундамент, на котором стоим: нашу социальную структуру, нашу способность к критическому мышлению, саму нашу реальность.

Возможно, в будущем победителями окажутся не те нации, что создадут самый мощный ИИ, а те, кто осознанно ограничит его проникновение в ключевые сферы жизни, сохранив способность мыслить и воспринимать мир без «ультра-обработки».

И это уже не вопрос технологий. Это вопрос выживания цивилизации в привычном нам виде.