Браузеры, Гуттенберг, Фрейд и gpt-4. Как ИИ может изменить вычисления, культуру и ход истории. Изменится то, как люди получают доступ к знаниям, относятся к знаниям и думают о себе.

Среди наиболее мрачных даров Просвещения было осознание того, что люди могут однажды вымереть. 

Астрономическая революция 17-го века показала, что Солнечная система действует в соответствии с высшими принципами разума и содержит кометы, которые предположительно могут столкнуться с Землей. 

Геологическая летопись, как ее интерпретировал граф де Бюффон, свидетельствует о массовых вымираниях, когда виды исчезали навсегда. 

Это подготовило почву для того, чтобы Чарльз Дарвин признал такие вымирания двигателем эволюции и, следовательно, одновременно силой, создавшей людей, и, косвенно, их возможной судьбой. 

Зарождающаяся наука термодинамика добавила космическое измерение определенности конца; 

Солнце, Земля и вся эта суета в конце концов скатятся к безжизненной «тепловой смерти».

20-й век добавил идею о том, что вымирание может произойти не естественным путем, а искусственно. Толчком к этому послужило открытие, а затем использование силы, заключенной в атомных ядрах. Прославленная некоторыми из ее первооткрывателей как способ отсрочить тепловую смерть на неопределенный срок, ядерная энергия вскоре превратилась в гораздо более непосредственную опасность. И ощутимая угроза неминуемой катастрофы, которую она представляла, отразилась на других технологиях.

Ничто не было более испорчено, чем компьютер. 

Возможно, это вина по ассоциации: компьютер сыграл жизненно важную роль в разработке ядерного арсенала. Возможно, это было предопределено. 

Вера Просвещения в рациональность как высшее достижение человечества и теория эволюции Дарвина сделали обещание сверхчеловеческой рациональности возможностью эволюционного прогресса за счет человечества.

Искусственный интеллект приобрел большое значение в мыслях небольшой, но увлекательной группы ученых, о которой много писали и которые посвятили себя рассмотрению экзистенциального риска за последние пару десятилетий. 

Действительно, это часто оказывалось в центре их беспокойства. Мир, в котором есть существа, которые думают лучше и действуют быстрее, чем люди и их институты, и чьи интересы не совпадают с интересами человечества, был бы опасным местом.

Для людей стало обычным говорить, что существует «ненулевая» вероятность развития сверхчеловеческого ИИ, ведущего к вымиранию человечества. Замечательный бум возможностей больших языковых моделей (БЛМ), «фундаментальных» моделей и связанных с ними форм «генеративного» ИИ привел к тому, что эти дискуссии об экзистенциальном риске стали предметом общественного воображения и попали в почтовые ящики министров.

Но, технологии не обязательно должны разрушить мир, чтобы изменить мир.

Прогресс в области ИИ стремителен, а перспективы огромны. 

Это несет с собой явные и настоящие опасности, которые необходимо устранить. Но в конкретном контексте gpt-4, llm du jour и ему подобных разговоры об экзистенциальных рисках кажутся довольно абсурдными. 

Они производят прозу, поэзию и код; они генерируют изображения, звук и видео; они делают прогнозы на основе шаблонов. 

Легко видеть, что эти способности приносят с собой огромные возможности для вреда. Трудно представить, чтобы они поддерживали «власть контролировать цивилизацию» или «заменять нас», как предупреждают преувеличенные критики.

Но, масштабы изменения, которые может принести с собой ИИ, не могут быть проигнорированы. 

Переход в мир, наполненный компьютерными программами, способными говорить на человеческом уровне и понимать язык, а также сверхчеловеческими способностями к усвоению данных и распознаванию образов, только начался. 

Появление вездесущего псевдопознания в этом направлении может стать поворотным моментом в истории, даже если нынешние темпы прогресса ИИ замедлятся (что может быть) или фундаментальные разработки будут остановлены (что маловероятно). 

Можно ожидать, что это повлияет не только на то, как люди зарабатывают себе на жизнь и организуют свою жизнь, но и на то, как они думают о своей человечности.

Чтобы понять, что может произойти, рассмотрим три возможных аналога или предшественника: браузер, печатный станок и психоаналитическая практика. 

Одно изменило компьютеры и экономику, другое изменило то, как люди получают доступ к знаниям и относятся к ним, а третье изменило то, как люди понимают себя.

Скромный веб-браузер, представленный в начале 1990-х как способ обмена файлами в сети, изменил способы использования компьютеров, способ работы компьютерной индустрии и способ организации информации. 

В сочетании с возможностью связывать компьютеры в сети браузер стал окном, через которое сначала можно было получить доступ к файлам, а затем к приложениям, где бы они ни находились. 

Интерфейс, через который пользователь взаимодействовал с приложением, был отделен от самого приложения.

Мощь браузера сразу стала очевидной. Споры о том, насколько сильно пользователей можно подтолкнуть к тому или иному браузеру, стали предметом высокой коммерческой драмы. 

(Подробнее: Искусство войны в бизнесе. Ч2. H&M vs Zara, iPhone vs BlackBerry. Крок vs McDonald’s, MS vs Netscape  https://youtu.be/Ni_R3mDC-hI или https://smart-lab.ru/blog/836463.php  )

Почти любой бизнес с веб-адресом мог получить финансирование, какой бы абсурдности он ни обещал. Когда на рубеже веков бум превратился в крах, последовала предсказуемая негативная реакция. 

Но принципиальное разделение интерфейса и приложения сохранилось. Amazon, Meta (урожденная Facebook) и Alphabet (урожденная Google) поднялись до головокружительных высот, превратив браузер в канал для товаров, информации и человеческих связей. 

Кто сделал браузеры стали случайными победителями; их роль платформы стала фундаментальной.

Месяцы, прошедшие после выпуска Openai Chatgpt, диалогового интерфейса, который теперь работает на gpt-4, стали свидетелями предпринимательского взрыва, на фоне которого бум доткомов выглядит обоснованным и уравновешенным. 

Для пользователей приложения, основанные на llm и подобном программном обеспечении, могут быть смехотворно просты в использовании; введите подсказку и посмотрите результат. 

Для разработчиков это не намного сложнее. 

«Вы можете просто открыть свой ноутбук и написать несколько строк кода, которые взаимодействуют с моделью».

И llm все больше способны помочь с этим кодированием. 

Будучи «обученными» не только кучам текста, но и большому количеству кода, они содержат строительные блоки многих возможных программ; что позволяет им действовать как «вторые пилоты» для программистов. 

Программисты на GitHub, сайте кодирования с открытым исходным кодом, теперь используют второй пилот на основе gpt-4 для создания почти половины своего кода.

«Нет никаких причин, по которым эта возможность не должна в конечном итоге позволить llm создавать код на лету», — объясняет Кевин Скотт, главный технический директор Microsoft. 

Способность переводить с одного языка на другой включает в принципе и все чаще на практике способность переводить с языка на код. Подсказка, написанная на английском языке, в принципе может ускорить создание программы, отвечающей ее требованиям. 

Там, где браузеры отделили пользовательский интерфейс от программного приложения, llm, скорее всего, растворят обе категории. Это может означать фундаментальный сдвиг как в том, как люди используют компьютеры, так и в бизнес-моделях, в рамках которых они это делают.

«Код как услуга» звучит как преимущество, меняющее правила игры. 

В то время как браузеры в основном предоставляли окно для контента и кода, созданного людьми, llm сами генерируют свой контент. 

При этом они «галлюцинируют» (или, как некоторые предпочитают, «конфабулируют») различными способами. 

Некоторые галлюцинации просто ерунда. Некоторые из них, такие как включение вымышленных преступлений в биографические очерки живых людей, одновременно правдоподобны и вредны. 

Галлюцинации могут быть вызваны противоречиями в тренировочных выборках и иллюзиями, предназначенными для получения когерентности, а не истины. Они создают вещи, похожие на вещи из их тренировочных наборов; у них нет ощущения мира за пределами текстов и образов, на которых они обучены.

Во многих приложениях тенденция извергать правдоподобную ложь является ошибкой.

 Для некоторых это может оказаться особенностью. 

Глубокие фейки и сфабрикованные видео, порочащие политиков, — это только начало. 

Ожидайте, что модели будут использоваться для создания вредоносных сетей влияния по запросу, включая поддельные веб-сайты, боты Twitter, страницы Facebook, каналы TikTok и многое другое. 

Поток дезинформации скоро станет бесконечным.

Это напоминает «Вавилонскую библиотеку», рассказ Хорхе Луиса Борхеса. 

Библиотека содержит все книги, которые когда-либо были написаны, а также все книги, которые никогда не были написаны, книги, которые неверны, книги, которые являются чепухой. 

Все, что имеет значение, есть, но его нельзя найти из-за всего остального; библиотекари доведены до безумия и отчаяния.

Эта фантазия имеет очевидную технологическую основу. 

Способность печатного станка рекомбинировать фиксированный набор символов неограниченным числом способов доводит ее до предела. 

И это дает другой способ думать о llm.

Степень, в которой современный мир невообразим без книгопечатания, делает любое руководство, которое его история может дать для размышлений о книгах, в лучшем случае неполное, а в худшем — вводящее в заблуждение.

Разработка Иоганном Гутенбергом подвижного шрифта в тот или иной момент была признана ответственной за почти каждый аспект жизни, возникший в последующие столетия. 

Она изменила отношения между Богом и мужчиной, мужчиной и женщиной, прошлым и настоящим. 

Это позволило массовое распространение мнений, систематизацию бюрократии, накопление знаний. 

Он породил понятие интеллектуальной собственности и возможности ее пиратства. Но именно эта широта делает сравнение почти неизбежным. «Это единственная реальная вещь, которая у нас есть, когда цена создания информации падает на порядок».

Печатные книги дали ученым возможность исследовать более обширные области знаний, чем когда-либо прежде. В этом есть очевидная аналогия для иллюстраций, которые, обученные на данном корпусе знаний, могут извлечь из него всевозможные вещи. 

Но приобретение книг означало нечто большее, чем простое знание.

Спустя чуть более века после того, как пресса Гутенберга начала греметь, Мишель де Монтень, французский аристократ, смог собрать личную библиотеку из примерно 1500 книг — нечто невообразимое для человека любого раннего европейского поколения. Библиотека дала ему больше, чем знания. Это дало ему друзей.

 «Когда на меня нападают мрачные мысли, — писал он, — ничто так не помогает мне, как бег к моим книгам. Они быстро поглощают меня и прогоняют тучи из моего разума».

И идея книги дала ему способ быть самим собой, который никто ранее не исследовал: засунуть себя под обложки. 

«Читатель, — предупреждал он в предисловии к своим «Опытам», — я сам являюсь материей моей книги». 

Массовое производство книг позволило им стать особенно личными; можно было написать книгу ни больше, ни меньше, чем о себе и о человеке, которым вас сделало чтение других книг. Книги, выпущенные авторами.

В качестве способа представления знаний книги обещают развивать как практическую, так и личную сторону книг, а в некоторых случаях полностью их отменять. Очевидным применением технологии является превращение совокупности знаний в предмет для чат-ботов. 

Вместо того, чтобы читать корпус текста, вы будете задавать вопросы обученному на нем объекту и получать ответы, основанные на том, что говорится в тексте. 

Зачем переворачивать страницы, когда можно исследовать произведение в целом?

Кажется, что теперь все и вся следуют таким отлаженным моделям как способам обеспечения доступа к знаниям. 

Медиакомпания Bloomberg работает над Bloomberg-gpt, моделью финансовой информации.

Существуют ранние версии Коран-gpt и Библии-gpt.

 Тем временем несколько стартапов предлагают услуги, которые превращают все документы на жестком диске пользователя или в его части облака в ресурс для разговорных консультаций. 

Многие ранние последователи уже используют чат-ботов в качестве доски объявлений. 

«Это похоже на знающего коллегу, с которым всегда можно поговорить».

Если некоторые чат-боты станут внутренним голосом своего пользователя, этот голос сохранится и после смерти.

Нетрудно представить себе таких посредников, обладающих, казалось бы, личностями — не просто общими, вроде «доброжелательного тьютора», а конкретными, вырастающими со временем. Они могут стать похожими на своих пользователей: внешней версией своего внутреннего голоса. 

Или они могут быть такими же, как и любой другой человек, чьи онлайн-выводы достаточны для обучения модели (если позволяют интересы интеллектуальной собственности). 

Исследователи из Австралийского института машинного обучения создали раннюю версию такого помощника для Лори Андерсон, композитора и музыканта. Частично он сформирован на ее работе, а частично на работе ее покойного мужа Лу Рида.

Г-жа Андерсон говорит, что не рассматривает возможность использования системы для сотрудничества со своим умершим партнером. Другие могут с большей готовностью поддаться такой иллюзии. Если некоторые чат-боты становятся внутренним голосом своего пользователя, то этот голос сохранится и после смерти, если другие захотят поговорить с ним. То, что некоторые люди после смерти оставят своих чат-ботов, кажется почти несомненным.

Такие приложения и следствия напоминают классическое эссе Зигмунда Фрейда о Unheimliche, или сверхъестественном. 

Фрейд берет за отправную точку идею о том, что сверхъестественное проистекает из «сомнений [относительно] того, действительно ли живое существо кажется живым; или, наоборот, может ли безжизненный объект быть на самом деле одушевленным». 

Это своего рода сомнения, которых трудно избежать тем, кто думает о LLM.

Хотя исследователи искусственного интеллекта могут объяснить механику своих творений, они упорно не могут сказать, что на самом деле происходит внутри них.

«Нет «абсолютной теоретической причины», по которой что-то подобное должно работать».

Это вызывает две взаимосвязанные, но взаимоисключающие проблемы:

 у ИИ есть какая-то внутренняя работа, которую ученые пока не могут понять; 

или что можно сойти за человека в социальном мире без какого-либо внутреннего понимания.

«Эти модели — просто представления распределения слов в текстах, которые можно использовать для создания большего количества слов». 

У моделей нет настоящего понимания.

Не имея опыта реальной жизни или человеческого общения, они не предлагают ничего, кроме способности повторять то, что они слышали на тренировках, способности, которую огромное количество вычислений делает часто уместной, а иногда и удивительной, но которая не имеет ничего общего с мышлением. 

Это мнение часто высказывают те, кто пришел в эту область благодаря лингвистике.

Для некоторых в сфере строительства llm все не так просто. 

Их модели трудно назвать «просто болтунами». 

У моделей есть атрибуты, которые на самом деле нельзя отличить от способности знать, что на самом деле означают вещи. 

Это можно увидеть,, в их способности надежно выбирать правильный смысл при переводе грамматически двусмысленных фраз или при объяснении шуток.

Если так, то можно утверждать, что широкий спектр поведения, который люди стали считать по существу человеческими, не обязательно таковым является. Сверхъестественные «сомнения в том, действительно ли одушевленное существо на самом деле живо» вполне оправданы.

Признать, что изображения, кажущиеся человеческими, являются расчетами, статистикой и ничем более, не может повлиять на то, как люди думают о себе. 

Фрейд изображал себя продолжателем тенденции, начатой Коперником, который удалил людей из центра вселенной, и Дарвином, который лишил их особого и данного Богом статуса среди животных. 

Вклад психологии, по мнению Фрейда, заключался в «попытках доказать «эго» каждого из нас, что он даже не хозяин в своем собственном доме». 

Можно утверждать, что llm еще больше развили эту идею. 

По крайней мере, одно крыло дома Фрейда становится незанятым «умным домом»; 

свет включается и выключается автоматически, интеллектуальный термостат открывает окна и опускает жалюзи. Человек вообще не нужен.

Однако, как ни странно, было бы неправильно думать, что многие люди примут близко к сердцу эту последнюю децентрацию. Что касается повседневной жизни, человечество оказалось довольно устойчивым к Копернику, Дарвину и Фрейду. 

Люди по-прежнему верят в богов, души и исключительность, мало заботясь о науке. 

Они вполне могут легко приспособиться к псевдокогнитивному миру, по крайней мере, в том, что касается философских сомнений.

Вам не нужно верить объяснению Фрейда тревожащего эффекта сверхъестественного в терминах усилий, которые ум затрачивает на подавление детского анимизма, чтобы думать, что отсутствие беспокойства и плыть по течению анимизма сделает мир, населенный коммуникабельными псевдолюдьми, удивительно удобный. 

Люди могут одновременно признать, что что-то не живое, и относиться к этому как к живому. Некоторые заходят слишком далеко, формируя проблемные привязанности, которые Фрейд назвал бы фетишистскими. Но лишь немногие чувствительные души обнаружат, что смотрят в экзистенциальную — но личную — бездну, открытую возможностью того, что их кажущиеся мысли напрасны.

Что, если то, что наука считает безжизненным, каким-то загадочным, частичным и эмерджентным образом фактически одушевлено? 

Тогда наступит время сделать для ИИ кое-что из того, что, по мнению Фрейда, он делал для людей. 

Поняв, что сознание — это еще не все представление, Фрейд стал искать в других местах источники желаний, которые, к добру или злу, управляли поведением. 

Очень немногие теперь согласны с последующими специфическими фрейдистскими объяснениями человеческого поведения. Но идея о том, что есть причины, по которым люди делают то, чего они не осознают, является частью ментальной обстановки мира. 

Бессознательное, вероятно, не является идеальной моделью для того, что наделяет образы видимым смыслом или приближением к действию. Но чувство, что под поверхностью ИИ может быть что-то, что нуждается в понимании, может оказаться сильным.

Возможно, под поверхностью ИИ есть что-то, что требует понимания.

Можно не согласиться с такими представлениями. 

Но они  ведут к полезным действиям в области «этики ИИ». 

Подмигивание неосознанных предубеждений, приобретенных в довербальном младенчестве обучения; 

работа с противоречиями, стоящими за галлюцинациями; 

регуляция блуждающих желаний: идеи психотерапии могут рассматриваться как полезные аналогии для работы с псевдокогнитивным переходом ИИ даже теми, кто отвергает все представления об ИИ. 

Также можно было бы приветствовать сосредоточение внимания на отношениях между родителями или программистами и их детьми. 

Что значит хорошо воспитать ИИ? 

Какое воспитание должно быть запрещено? 

В какой степени создатели ИИ должны нести ответственность за вред, причиненный их творением?

И человеческие желания тоже могут нуждаться в проверке. 

Почему так много людей жаждут близости, которую может обеспечить чат-бот? 

И где решимость превратить сверхчеловеческую рациональность во что-то, что не только встряхнет экономику, но и изменит историю к лучшему?

Оригинал

P.S. Подпишитесь на проект «КОГоть» — “КраткоОГлавном” в Телеграм, Дзен, VK и Youtube