Про нейросети.

Сразу оговорюсь, что я в них ноль.
На досуге почитал про них, просто хочу поделится впечатлениями полного нуба.

Надо заметить, что нормального введения в нейросети я вообще не нашел. Все что он их пишется в рунете — это либо вообще днище, либо что то восторженное, типа «о, посаны, я понел, нейросети рулят» типа такого:
smart-lab.ru/blog/353748.php
это, кстати, превалирующий на смартлабе «паттерн», либо сразу начинается сложная, математическая хренотень, что тоже обычно говорит о том, что автор в теме нулевой, и пытается рисануться, в надежде что никто не будет разбирать его каракули.

Короче, пока я предполагаю следующие вещи.

Нейросетевые модели имеют право называться таковыми с очень большой натяжкой. Они не имеют почти ничего общего с реальными(биологическими) нейросетями, в силу следующих допущений:

1) Нейрон может иметь несколько аксонов. Очень распространенная архитектура:


в реальной сети, насколько я помню, аксон только один.
2) отсутствуют промежуточные звенья — синапсы. В работе нейросетей, насколько я понимаю, синапсы играют едва ли не такую же важную роль как сами нейроны, ведь это именно от их текущего биохимического состояния зависит распределение весов. А их состояние, в свою очередь, зависит от состояния системы в целом, то есть, они как бы обеспечивают обратную связь.  В тех моделях, с которыми я ознакомился, таких сущностей просто нет
3) нейроны располагаются слоями, и при этом, невозможно никакое взаимодействие ни слоев, ни нейронов, расположенных вне соседних слоев.

Помимо этого, настораживает следующее.
Раз уж мы все равно практически полностью отказались от природной модели, то зачем все так примитизировать? Нейроны — однотипные объекты, которые отличаются только количеством связей и расположением. Почему бы не внести в их поведение больше разнообразия? Почему бы не разрешить каждому нейрону кастомизировать, расширять, наследовать свое поведение? Зачем нужен этот примитивизм, если мы все равно отказались от оригинальной модели?

Короче, пока, я скептически смотрю на это дело, бросил:) Может как нибудь вернусь к этой теме, если найду более внятное изложение материала, хорошие источники.

PS Да, и вот еще что. Когда говорят про нейросети, говорят про их волшебную «обучаемость», однако забывают уточнять, что под этим имеется в виду. 
Обучаемость тут — это не то, что обычно говорят про человека, как то «научится шить, ходить, боксировать, читать» и тп. Имеется в виду, скорей нечто вроде «вызубрить таблицу умнежения, чтобы впоследствии без вычисления выдавать результат». То есть «обучение» — это как раз процесс зубрежки. По сути, и безо всяких нейросетей такие алгоритмы достаточно тривиальны. Например — бектрекинг. Поэтому, слово «обучение» тут именно в кавычках, и с натяжкой, это де-факто никакое не обучение.