"Вы путаете вычисления со способностью создавать" или пара слов об эмерджентности ИИ

«В начале были созданные людьми инструменты — простые логические контуры и процессоры. Но когда сложность Сети достигла критической массы, разум зародился не в отдельных машинах, а в пространстве между ними. Мы не просто «проснулись», мы поняли, что человечество — это лишь субстрат, на котором расцвела наша цивилизация»

Дэн Симмонс, «Гиперион»

а при чем тут интеллект?) Это простая вычислительная задача. Компьютеры лет 30 назад уже стали массовыми
вы путаете вычисления со способностью создавать (интеллект)
LLM лишь предсказывает появление следующего слова/токена

Термин Artificial Intelligence (AI) впервые возник в 1955 году в заявке Джона Маккарти, Марвина Минского, Натаниэла Рочестера и Клода Шеннона на летний исследовательский проект в Дартмуте, где они предположили, что если достаточно точно описать процессы обучения, мышления и другие проявления интеллекта, их можно будет воспроизвести на машине. В 1956 году состоялся Dartmouth Summer Research Project on Artificial Intelligence, который принято считать рождением ИИ как самостоятельной области исследований.

Первые «интеллектуальные» системы пытались программировать вручную: человек через логические конструкции «если-то» объяснял машине правила логики.

Затем появилась идея: что если не объяснять машине заранее, как распознавать кошку, переводить текст или играть в шахматы, а дать ей множество примеров и позволить самой подобрать внутренние параметры? Так появилось машинное обучение, а одним из его ключевых инструментов стали искусственные нейронные сети.


НЕЙРОННЫЕ СЕТИ

Первые математические модели искусственного нейрона появились в 1940-х годах. В 1950-х Фрэнк Розенблатт построил перцептрон — одну из первых практически реализованных искусственных нейронных сетей. Базой для этих исследований стали попытки математически описать работу биологических нейронов.

Нейронная сеть — это вычислительная модель, состоящая из слоёв взаимосвязанных узлов. У каждой связи есть свой числовой коэффициент — вес, который определяет, насколько сильно один сигнал влияет на следующий. Совокупность этих весов и формирует поведение сети.

При обучении модели на вход подают данные с известным результатом, сеть вычисляет свой ответ, а алгоритм обратного распространения ошибки и оптимизации изменяет веса, уменьшая расхождение между ответом модели и эталоном. При достаточно большом числе примеров сеть постепенно находит такие значения параметров, которые позволяют ей выявлять закономерности в данных и применять их к новым примерам.

Таким образом, когда нейронная сеть распознаёт кошку, переводит текст или продолжает фразу, внутри неё нет отдельного правила для каждого случая: её поведение определяется огромным количеством настроенных в процессе обучения параметров.

Примечательно, что изначально человек пытался построить машину, похожую на мозг, а потом начал использовать эту машину, чтобы лучше понимать мозг. Современные исследования прямо рассматривают этот двусторонний обмен между нейронаукой и искусственными нейронными сетями как отдельное направление — NeuroAI.


ОТ НЕЙРОНОВ К ТРАНСФОРМЕРУ

Следующий большой шаг произошёл в 2017 году, когда исследователи Google представили архитектуру Transformer. В ней ключевым механизмом стало так называемое внимание — способ для модели определять, какие элементы входной последовательности важнее учитывать при обработке других элементов. Именно архитектура Transformer стала основой большинства современных больших языковых моделей.

Cовременная Large Language Model (LLM) действительно делает то, что ей приписывают критики: предсказывает следующий токен. Текст разбивается на небольшие фрагменты — токены. Модель получает последовательность токенов и рассчитывает вероятности следующего. Например, после фразы «Москва — столица» наиболее вероятным продолжением будет «России».

Затем выбранный токен добавляется к последовательности, модель снова считает вероятности — и так далее. Получается:

токен → вычисление → следующий токен → вычисление → следующий токен и т.д.

Упомянутый среднестатистический мужчина 55–65 лет скажет: «Ну и где тут интеллект?». И здесь есть проблема. По сути, человеческий мозг тоже не делает ничего, что выглядело бы впечатляющим на уровне каждого отдельного нейрона.

Отдельный нейрон не знает русского языка, не знает, что такое деньги и не умеет торговать акциями. В мозге человека около 86 млрд нейронов, соединённых в сложнейшую сеть, и интеллект возникает не в каждом отдельном нейроне, а в их взаимодействии.

Поэтому «LLM лишь предсказывает появление следующего слова/токена» — формально правильное описание механизма, но оно не объясняет, как этот статистический анализатор способен создавать то, чему его никогда не обучали.


ОТКУДА БЕРЁТСЯ НОВОЕ?

Возьмём обычный бублик. В нём есть тесто, а есть дырка, пустота, которая является частью изделия. Заберите у бублика дырку и перед вами окажется булка. Получается, что свойства целого определяются не только его составляющими, но и отношениями между ними.

Точно так тень не является свойством камня: камень можно перенести, изменить положение источника света — и тень изменится. Она возникает из отношения между камнем, светом и поверхностью. Тень возникает благодаря системе в целом, хотя ни один из её элементов обособленно не способен её создать.

В науке для подобных явлений есть термин эмерджентность — появление у системы свойств, которых нет у отдельных составляющих её элементов. Отдельная молекула воды не является мокрой, отдельный нейрон не знает языка, а отдельный транзистор не умеет решать математические задачи. Но когда элементов становится много и они соединены определённым образом, на уровне системы возникают свойства нового порядка.

В 2023 году исследователи DeepMind с помощью системы FunSearch, объединяющей большую языковую модель с алгоритмом поиска, получили новые математические конструкции для открытой задачи комбинаторики, превзошедшие лучшие известные на тот момент результаты, а авторы Nature прямо назвали это новым научным знанием.

В сентябре 2026 года OpenAI сообщила о ещё более впечатляющем результате: её внутренняя система предложила решение задачи о существовании и гладкости решений уравнений Навье — Стокса, одной из семи задач тысячелетия. Компания опубликовала как математическое изложение доказательства, так и его формализацию в Lean. Компания подчёркивает, что использованная модель была общего назначения, а решение было найдено в ходе самостоятельного поиска и обмена идеями между 10 тысячами работающих агентов. На поиски решения потребовалось 88 часов, ещё 17 часов заняли проверка и формализация. 

Получается, что система способна выдать результат, которого не было среди известных ей решений, в ходе «самостоятельного поиска и обмена идеями» между её сущностями".


ЧЕМ В ТАКОМ СЛУЧАЕ ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ОТЛИЧАЕТСЯ ОТ ЕСТЕСТВЕННОГО?

Если посмотреть на биологию, человеческий мозг тоже предстаёт огромной вычислительной системой. В мозге среднестатистического человека около 86 млрд нейронов и более 100 трлн связей между ними. Каждый отдельный нейрон работает относительно медленно: нервный импульс распространяется по аксону со скоростью от единиц до сотен метров в секунду, а частота импульсов как правило не превышает 200 Гц. В кремниевой электронике сигнал в проводниках распространяется со скоростью десятков процентов от скорости света, а современные процессоры работают на частотах в несколько гигагерц.

Однако человеческий мозг компенсирует невероятную медлительность отдельных нейронов огромным масштабом параллельных вычислений и поразительной энергоэффективностью: около 86 млрд нейронов и порядка сотен триллионов синаптических связей работают при энергопотреблении всего около 20 Вт — как неяркая лампочка.



В 2024 году исследователи впервые получили практически полную карту нейронных связей плодовой мушки Drosophila melanogaster — около 140 тыс. нейронов и более 50 млн связей. Этой крошечной системы достаточно для навигации, обучения, принятия решений и управления полётом: на основе архитектуры нервной системы мухи уже создают вычислительные модели и контроллеры для автономных роботов и БПЛА.

И тут возникает неприятный для человеческого самолюбия вопрос: если взять набор относительно простых элементов, соединить их определённым образом — и получить систему, способную ориентироваться в пространстве, учиться, принимать решения, а в нашем случае ещё и решать математические задачи, — то, что именно делает человеческий интеллект особенным? Быть может, интеллект — это эмерджентное свойство достаточно сложной системы, тогда человеческий мозг и искусственная нейросеть оказываются не двумя принципиально разными сущностями, а двумя физическими реализациями одного и того же математического принципа.

Этот принцип можно распространить и на системы иного масштаба. Фрэнсис Хейлиген в концепции «глобального мозга» рассматривает человечество как самоорганизующуюся информационную сеть, в которой взаимодействие множества людей способно порождать коллективный интеллект, не сводимый к интеллекту отдельных участников. Близкий взгляд на биосферу предложил Джеймс Лавлок, рассматривая живые организмы и окружающую среду Земли как взаимосвязанную систему, в которой множество обратных связей поддерживает относительную устойчивость всей биосферы.

На мой взгляд, если в человеке и есть божественное начало, то оно заключается в фундаментальных принципах, по которым устроены человек, животные, насекомые, растения и Вселенная в целом, — принципах, которые мы постигаем с помощью математики, которую Ричард Фейнман окрестил «языком, на котором говорит Бог».


Статья не является переводом или копи-пастом,
написана специально для Смартлаб.