Думай «Почему?»

За счет чего достигнут прогресс в области нейросетей?

Midjourney рисует картины, ChatGPT пишет тексты, которые проходят тест Тьюринга, люди не могут определить, кто с ними общается: человек или машина. В комментариях к этой статье уже могут писать роботы, и вы не отличите их сообщения от людей!

Ответ на вопрос о революции в области нейросетей, как мне кажется, дает книга Джуда Перла и Дана Маккензи «Думай „Почему?“. Причина и следствие как ключ к мышлению».

Вкратце, дело в том, что в математике до недавнего времени не было языка, который описывал бы связь между причиной и следствием. Посмотрите на математические и физические формулы, где там причина и следствие?

Была и есть только наука статистика, которая породила монстра «Big Data».

Маркетологи, как завороженные, начали искать в «Big Data» способы увеличения продаж. Они думали, что если проанализировать терабайты информации, то можно извлечь грааль прибыли. В эту гонку больших данных включились многие. Выходят статьи, где объясняется, например, что на сайте магазина на оранжевую кнопку кликают больше чем на зеленую, что на цену акций влияет день недели, «эффект понедельника», и тому подобная чуйня.

Эти обработки больших данных никак не объясняют причинно-следственных связей. С таким же успехом определена связь индекса S&Р 500 с объемом производства сливочного масла в Бангладеш (серьезно графики совпадали). Наличие корреляции не обозначает причинно-следственных связей. Так в США рост продаж мороженного коррелирует с увеличением убийств. Нужно ли запрещать мороженное? Или дело в теплой погоде?

Книга Джуда Перла и Дана Маккензи «Думай „Почему?“» рассматривает эти вопросы. Если научить искусственный интеллект понимать причину и следствие, то мы приблизимся к созданию думающих машин. Как это сделать витиевато с уклоном в математику и рассказывается в книге.

Приводятся примеры о поиске причин и следствий в истории человечества, которые разбавляют научные суждения. Например, доказательство, кажется, очевидной связи между курением и раком заняло не одно десятилетие научных дебатов! Или цинга. От нее умирали моряки миллионами, было выяснено, что от нее спасают цитрусовые. Бери апельсины на борт и будет все в порядке, но истинная глубокая причина, что все дело в витаминах, ускользало от ученых на протяжении десятилетий.

Антарктическая экспедиция Скотта пострадала в ходе путешествия от цинги (спойлер: они погибли), спустя сотню лет после открытия, что нужно есть для защиты цитрусовые. В те времена считалось, что плоды цитрусовых предотвращают цингу, за счет того, что они кислые. С этой точки зрения сгодится любая кислятина. Моряки брали сперва лимоны, потом из экономии лаймы, которые содержали витамина С в 4 раза меньше (они об этом не знали), дальше начали «очищать» сок, разрушая витамин. Врач экспедиции Скотта так вообще считал, что цингу вызывает протухшее мясо, а соки цитрусовых даже не вошли в паек экспедиции.

Люди хотят научить искусственный интеллект справляться с нахождением причин и следствий, когда им самим это с трудом удается. Посмотрите на хроники финансовых сайтов и вы увидите, какие только «причины» не вызывает колебания валют и цену акций.

Сейчас создан язык диаграмм причинности, который позволил работать в этой области. Между прочим, авторы сетуют на то, что математики вплоть до конца 20 века не могли осознать проблему языка описания причинности и подобраться к ней, но их изобретенные диаграммы лично мне напоминают диаграммы Фейнмана для описания взаимодействия субатомных частиц (но о Ричарде Фейнмане в книге не слова).

Успехи нейронных сетей уже нельзя отрицать. И книга «Думай „Почему?“. Причина и следствие как ключ к мышлению» нащупывает причины их успеха. Словами авторов была совершена «Революция причинности».