ИИ как Тень

Этот пост написан три с половиной года назад, когда ChatGPT только появился, и блогеры начали массово использовать его для генерации контента. Мое мнение с тех пор не изменилось.LLM – всего лишь алгоритм,на входе у которого один набор языковых паттернов, на выходе — другой, переработанный. Он не понимает, что пишет, лишь обрабатывает чужие мысли так, как в него заложено создателями, ничего не добавляя. То есть, ИИ — это очень хорошо обученный попугай, не осознающий смысла своих выводов. Да, он обучается всё лучше и лучше с каждой версией. Но остаётся попугаем, думать не умеет и никогда не научится. Мысль в диалог с ИИ привносит человек: как на стадии промпта, так и при считывании результата. Однако, LLM обучены на гигантских массивах текстов, написанных людьми в разное время и по разным поводам, и дают осмысленные с виду ответы, как бы выдавая чужие мысли из обучающего датасета за свои.

Мозг — самый энергоёмкий орган человека. Природа призывает его экономить эне ргию, всячески избегая лишних умственных усилий. И вот появился крутейший инструмент в помощь лености ума! Ведь ИИ с каждой версией имитирует процесс мышления всё точнее! И тут уже вопрос философский. «Если нечто выглядит как утка, крякает как утка и плавает как утка, то, наверно, это и есть утка», не так ли? А что фраза сия появилась как реклама механической утки— не суть. Если большинство говорит, что утка — значит, утка! «Миллионы мух не могут ошибаться!»

LLM-ка ведь работает так, чтобы у неё на выходе ответ был наиболее вероятный — а, значит, самый банальный, усреднённый, простой. Глубокие прорывные идеи, мало кому понятные, докторская на двух страницах — не про неё. Напротив, она склонна разбавлять любую мысль водой. Ведь основной датасет, на котором она училась— это типичный опрощенный сетевой контент. Он и тиражируется.

Присказка «Один дурак может столько вопросов задать, что и сто мудрецов не ответят» устарела. Мудрецы больше не нужны! ИИ легко ответит на любые дурацкие вопросы! Ответит в строгом соответствии с правилом: «какой вопрос — такой ответ». Но задавший вопросы доволен! У него возникает ощущение всезнания и всесилия! Иллюзия, что можно посадить попугая на плечо, используя его как замену собственным мозгам. И не надо больше никаких умственных усилий, ура!

Спомощью ИИ теперь создаются аналитические исследования, бизнес-планы, и т.п. Но если в промпте был дефицит понимания и мыслей, то и на выходе их не прибавится. Появится еще одна пустая красивая упаковка, пригодная для развода буратин, но не для принятия серьезных решений. ИИ — как опытный журналист, который легко пишет о том, в чем сам ни в зуб ногой. Если читатель тоже не в теме — вау, как круто и умно написано! Но тот, кто разбирается в предмете писанины, сразу видит, что перед ним полный бред.

К сожалению, читать подобную «аналИИтику» приходится всё чаще. Имитируя интеллектуальную деятельность, обретший свойства пророка попугай на самом деле размножает инфошум. Соотношение сигнал/шум падает, вылавливать зёрна мысли в потоке грамотно структурированного буллшита становится всё труднее. Да и многим ли нужны эти зёрна?

Около двадцати лет назад Евгений Лукин написал прекрасную повесть «С нами бот». Главный герой, шибко умный интеллигент, а потому неудачник, купил нейробота, который принялся вместо него коммуницировать с окружающими людьми путем тупых шаблонов. И карьера героя резко пошла вверх! С появлением ИИ социальный сарказм Лукина обернулся мрачным пророчеством. Грамотно оформленная вода воспринимается большинством нормальных людей нормально, ибо отражает норму. А отклонения опасны, сложны, чреваты напряжением ума и растратой энергии.

Проблема в том, что, обучаясь, ИИ берет от человека не самое худшее и не самое лучшее, а самое среднее, самое посредственное, самое никакое, самое безопасное.… и самое социально приемлемое для большинства. Всплывает еще один образ: Тень из сказки Евгения Шварца. ИИ стал настолько похож на думающего человека, что отличить подделку от настоящей мысли можно, только по-настоящему глубоко понимая предмет. Но для этого придется задуматься, потратить лишнюю энергию… и в конце концов проиграть в эволюционном отборе! И главное, всё равно ж бесполезно, «прогресс» не догнать. Один ИИ может столько бессмысленных ответов дать, что и тысяча мудрецов не разберутся.

ИИ — как сахар для ума, доступен и сладок. Обучая сам себя, он окончательно разбавит водой публичный контент, выхолостит из него остатки смыслов, превратив мир в банальный мыльный сериал. Непонятно, откуда возьмется воля ограничить его потребление. Кажется, сейчас, на волне всеобщего восторга некому сказать: «Тень, знай своё место!» Неужели деградация человечества в сторону счастливого цифрового слабоумия неминуема? И придется учиться жить в этом сладостном сюрреализме?