В чём реальная, а не выдуманная опасность LLM

Для начала хотел бы уточнить, что мне очень не нравится термин «искусственный интеллект» — на мой взгляд, интеллект это целиком человеческая характеристика, что-то вроде души. Применяя термин ИИ, начинается оптовое проецирование чисто человеческих свойств на машины: сравнение лучше/хуже, наличие воли, мотивации и души.

В целом, даже в 2026 году люди продолжают критиковать не реально существующие системы, а предупреждения из антиутопий ещё с XIX века, пересказы мифов о Големе и о том, стоит ли вообще доверять ИИ, насколько он обладает сознанием и пойдёт ли он против создателя.

В этом, на мой взгляд, и является одна из ключевых проблем. Вторая проблема понимания — рассматривание проблем и опасностей ЛЛМ не на системном уровне, а на своём личном. Вроде того: «я попробовал и на личном примере уже понял, что ИИ бесполезен, расходимся, это пузырь». Либо же: «искусственный интеллект никогда не будет любить и страдать — а значит, не сможет заменить настоящее искусство».

Тут во многом и спорить нечего — я не верю, что ЛЛМ смогут создавать шедевры вне времени, или что ЛЛМ нужен всем и каждому в быту, или даже на рабочем месте.

Проблема гораздо глубже — в самой современной экономической и политической системе, устроенной на идеях прогресса и свободного рынка. В теории это выглядело так: большое количество конкурирующих между собой предпринимателей, каждый старается сделать свои услуги лучше — и в итоге рынок выводит для потребителя лучшее предложение по качеству и цене, что делает систему максимально честной: выигрывает самый талантливый и трудолюбивый.

Но последние 20–30 лет мы начинаем замечать, что происходит что-то не то. Казалось бы, прогресс идёт огромными шагами, но уровень жизни только падает и падает. Давайте не брать времена средневековья, а хотя бы 20–30–50 лет назад, и не СССР, а ту же экономическую систему в тех же Штатах. В 50-х один рабочий мог купить дом, автомобиль и содержать неработающую семью и детей. Позже уже двое членов семьи должны были работать — и был культ карьеры и профессионального роста. Сейчас же просто поиск рабочего места на уровне чуть выше выживания провозглашён челленджем.

Причина, на мой взгляд, в том, что равновесная система предпринимательства является ложью: при капитализме укрупнение бизнеса является неизбежным итогом — по принципу «победитель забирает всё». Это отлично демонстрирует наше дорогое и родное IT, автоматизируя и подминая одну область за другой — будь то такси, аренда отелей или маркетплейсы. Первое время люди рады получать преимущества нового сервиса, но после получения контроля над рынком монополистом система перестраивается так, что как потребители, так и контрагенты (микробизнес) имеют прибыль на грани выживания — и то при условии максимальной загруженности в режиме челленджа.

Опыт подсказывает, что любые технологические инновации идут фактически во вред самим работникам. В начале прибыль снимает малый бизнес, потом средний — в конце остаётся только монополист, который забирает сверхприбыли. Помню, Олег Тиньков говорил, что бизнесу не должна быть интересна маржа 10%. 200% — вот нормальная маржа. От себя отмечу: крупному бизнесу. Микробизнес довольствуется и микрооборотом, и микромаржой.

По сути роль микробизнеса — это абсорбация безработных.

Причём же тут LLM? Ключевая его роль — не облегчить нагрузку на рабочем месте. И не придумывать шедевры искусства. LLM прежде всего идеальный инструмент в руках менеджмента. Там, где крупный бизнес не мог дотянуться до экономических объедков и ещё могли пастись мелкие ИП-шники, появляются мощнейшие системы анализа и контроля. Если, грубо говоря, раньше могла выйти во двор бабушка с семечками, то ИИ проследит маршруты, предпочтения жителей района и заменит бабушек на вендинговые автоматы — с оптимальной наценой и ассортиментом. Какой-то венчурный инвестор заработает миллиард, а все бабушки страны (или даже континента) перестанут получать прибавку к пенсии.

Система будет работать прежде всего как антисоциальный лифт: фильтровать выгоревших, неэффективных или слишком амбициозных и предприимчивых. Реализовать мечту бизнеса — нагрузить работника так, чтобы у него не было мысли и желания посмотреть на сторону и полностью привязать к работе, при этом себя сделать максимально независимым от персонала.

Очевидно также, что и глобальная политическая система первым делом будет применять инновации. Доступен личный, персональный контроль. Если глобальный сбор информации уже доступен, скоро будет доступна и личная персональная обработка. Население будет использовано максимально эффективно с точки зрения системы. Работу будут получать самые профессиональные, умные, мотивированные, на пике творческих и физических сил — при этом за минимальный доход на грани выживания.

Именно поэтому меня печалит тиражирование не реальных опасностей концлагеря будущего, в котором уже стоим одной ногой, а требование самого населения — ужесточить контроль над ИИ, максимально передав управление им власти и корпорациям. Активно осуждают вайб-кодинг — в режиме, где сами сотрудники получают профит с ЛЛМ, но сквозь пальцы смотрят на вайб-менеджмент и вайб-хайринг — истинных врагов IT-пролетариата. Люди сокрушаются надуманной проблеме «мёртвого интернета» — дескать, много мусорного контента в сети, но при этом причину и следствия исчезания вакансий и роста требований как бы не замечают.

 
Текст писал для хабра, пока дописал карму заминусовали так что читайте тут