Искусственный интеллект на нейросетях и ошибка Грефа

Есть ошибочное мнение, что нейросети в компьютерах подобны нейронам, составляющим мозг и всю нервную систему человека. Оно повторяется даже в некоторых учебниках. Такая наивная аналогия — бесплодная метафизика.
Никто пока что не знает, как человеческий мозг вырабатывает знания. Но обучение нейросетей всегда под контролем программиста. Хотя результаты случайны и непредсказуемы. Но суть процесса проста как палец.
Вот пример первых успехов с распознаванием образа цифр. Последующие, более сложные задачи — по тому же шаблону.

Как научить компьютер распознавать произвольные рукописные изображения цифр не хуже человека.
Для каждой цифры накапливается набор изображений с разной степенью отличия от канонического. Таких, что способен распознать внимательный человек.
Каждое изображение сканируется на матрицу пикселей, из которой получается уникальная последовательность чисел, соответствующая изображению. Набор таких последовательностей фиксированной длины подаётся на вход «самообучаемого» алгоритма. Вместе с заданным выходом — числом-номером цифры.
Задача самообучения: найти такую функцию преобразования входа, чтобы для любой последовательности для какой-то цифры получать её номер.

Простота здесь в том, что каждому числу входной последовательности придаётся некий вес — другое число. Каждое входное число умножается на этот вес и передаётся на все входы-узлы следующего слоя нейросети. Таких слоёв может быть достаточно много и с достаточно большим числом узлов.
В каждом узле входные числа суммируются и после умножения на другой вес, уникальный для данного узла, передаются на все узлы следующего слоя нейросети. Через некоторую простую т.н. функцию активации, подобранную в соответствии со спецификой задачи.
Правильные значения всех весов на каждом слое заранее не известны. Поэтому инициализируются случайным образом.

Обучение начинается с того, что на вход нейросети подаются по очереди все рукописные изображения одной цифры и каждый раз выход сети сравнивается с номером цифры.
С первой попытки на выходе нейросети получаются результаты, далёкие от желаемого. Но в распоряжении «самоорбучающегося» алгоритма есть множество чисел-весов — тысячи и тысячи параметров. Подобрав их более подходящие значения, можно получить нейросеть, дающую правильные выходы для всех входов.
Для поиска правильных весов обычно применяется какая-нибудь вариация  наискорейшего спуска по градиенту. Не вдаваясь в математику, можно сказать, что для вычисления поправок каждого веса используется разность между целевым результатом и промежуточным. Каждая поправка даёт небольшое улучшение, но таких поправок компьютер может делать громадное количество.
Вуаля! Компьютер распознает цифры не хуже человека.

Здесь важно построить такую обучающую выборку, чтобы входы реально соответствовали желаемым выходам. И применять нейросеть только в ситуациях, где сохраняются физические основы для этого соответствия.
Если же просто от балды взять на вход большую выборку данных — как бы причину — и сопоставить эту выборку с исторически наблюдаемыми как бы следствиями, может оказаться, что между входом и выходом нет физического механизма причинно-следственной связи.
Нейросеть об этом никогда не скажет. Она просто выловит случайные соответствия — корреляции — как наилучший результат. Такая подгонка не имеет обобщающей силы и обязательно промахнётся на входных данных не из обучающей выборки. Промах может быть выявлен не сразу и с разной степенью ухода от реальности.

Вот на этом Греф и промахнулся со своим ИИ. Несколько лет назад он даже объявил об убытках из-за такой ошибки. И что из ошибки сделаны выводы.
Но в теории нейросетей за последние годы не было таких открытий, чтобы нейросеть научилась сама отличать виртуальные корреляции от физического механизма причинно-следственной связи.
Так что Греф обманывает сам себя.

Шуточный пример виртуальной корреляции привёл Бернард Шоу в начале XX века: лучший способ укрепить здоровье — подражать привычкам богатых людей носить золотые часы и трости чёрного дерева с набалдашниками слоновой кости. Богачи, которые так поступают, обычно здоровее прочих людей.
На самом деле, чтобы стать здоровее благодаря богатству, примером надо брать не обычаи богачей, уже ставших богатыми, но их путь к богатству из бедности.
Думать иначе — это карго-культ.

В наши дни виртуальную корреляцию навязывает всему миру Гидра Либерализма в виде т.н. «Вашингтонского консенсуса» (ВК). На всём серьёзе опоздавшим странам предлагают подражать нынешним обычаям богатых стран, а не тому пути, который вывел их когда-то из отсталости.

Об этой лаже в книге Ha-Joon Chang «Kicking Away the Ladder. Development Strategy in Historical Perspective», page 5.
...the so-called Washington Consensus. They include restrictive macroeconomic policy, liberalization of international trade and investment, privatization and deregulation.
The 'good institutions' are essentially those that are to be found in developed countries, especially the Anglo-American ones: The key institutions include: democracy; 'good' bureaucracy; an independent judiciary; strongly protected private property rights (including intellectual property rights); and transparent and market-oriented corporate governance and financial institutions (including a politically independent central bank).

Вот мой перевод.
Они {условия ВК} включают ограничительную макроэкономическую политику, либерализацию внешней торговли и инвестиций, приватизацию и дерегулирование [неучастие государства]. 'Хорошие институты' в основном те, что сейчас в развитых странах, особенно Англии и США. Ключевые институты: демократия, 'хорошая бюрократия', независимый суд, защита частной собственности (включая интеллектуальную) и прозрачное, рыночно-ориентированное управление корпорациями и финансовыми институтами (включая политически-независимый центральный банк).

Далее во всей книге Ха Джун Чхан показывает, как на самом деле все ныне развитые страны выходили из отсталости экономическими мерами, прямо противоположными «Вашингтонскому консенсусу».
Про политически-независимые ЦБ, руководство которых назначается исполнительной властью, можно только усмехнуться. Вот так же независимы были колхозы в СССР, руководство которыми назначала КПСС.

А Джо Стадвелл в книге «Азиатская модель управления» прямо пишет, что демократия, права человека, верховенство закона и прочая либеральная шелуха — не движущие факторы выхода из отсталости, но сопутствующие. Глава "«Введение», раздел «Балласт».
На самом деле эта модель выхода из отсталости не азиатская, а общемировая. Япония переняла её у канцлера Бисмарка в Германии вместе с книгой «Национальная система политической экономии» Фридриха Листа.

Более широкую историческую картину можно составить по, увы, весьма немногим книгам из списка smart-lab.ru/blog/828624.php
Все ныне развитые страны выходили из отсталости активной промышленной политикой государства. Вопреки всем либеральным рецептам.