sortarray sortarray
sortarray sortarray личный блог
01 ноября 2016, 15:02

Про нейросети.

Сразу оговорюсь, что я в них ноль.
На досуге почитал про них, просто хочу поделится впечатлениями полного нуба.

Надо заметить, что нормального введения в нейросети я вообще не нашел. Все что он их пишется в рунете — это либо вообще днище, либо что то восторженное, типа «о, посаны, я понел, нейросети рулят» типа такого:
smart-lab.ru/blog/353748.php
это, кстати, превалирующий на смартлабе «паттерн», либо сразу начинается сложная, математическая хренотень, что тоже обычно говорит о том, что автор в теме нулевой, и пытается рисануться, в надежде что никто не будет разбирать его каракули.

Короче, пока я предполагаю следующие вещи.

Нейросетевые модели имеют право называться таковыми с очень большой натяжкой. Они не имеют почти ничего общего с реальными(биологическими) нейросетями, в силу следующих допущений:

1) Нейрон может иметь несколько аксонов. Очень распространенная архитектура:
Про нейросети.

в реальной сети, насколько я помню, аксон только один.
2) отсутствуют промежуточные звенья — синапсы. В работе нейросетей, насколько я понимаю, синапсы играют едва ли не такую же важную роль как сами нейроны, ведь это именно от их текущего биохимического состояния зависит распределение весов. А их состояние, в свою очередь, зависит от состояния системы в целом, то есть, они как бы обеспечивают обратную связь.  В тех моделях, с которыми я ознакомился, таких сущностей просто нет
3) нейроны располагаются слоями, и при этом, невозможно никакое взаимодействие ни слоев, ни нейронов, расположенных вне соседних слоев.

Помимо этого, настораживает следующее.
Раз уж мы все равно практически полностью отказались от природной модели, то зачем все так примитизировать? Нейроны — однотипные объекты, которые отличаются только количеством связей и расположением. Почему бы не внести в их поведение больше разнообразия? Почему бы не разрешить каждому нейрону кастомизировать, расширять, наследовать свое поведение? Зачем нужен этот примитивизм, если мы все равно отказались от оригинальной модели?

Короче, пока, я скептически смотрю на это дело, бросил:) Может как нибудь вернусь к этой теме, если найду более внятное изложение материала, хорошие источники.

PS Да, и вот еще что. Когда говорят про нейросети, говорят про их волшебную «обучаемость», однако забывают уточнять, что под этим имеется в виду. 
Обучаемость тут — это не то, что обычно говорят про человека, как то «научится шить, ходить, боксировать, читать» и тп. Имеется в виду, скорей нечто вроде «вызубрить таблицу умнежения, чтобы впоследствии без вычисления выдавать результат». То есть «обучение» — это как раз процесс зубрежки. По сути, и безо всяких нейросетей такие алгоритмы достаточно тривиальны. Например — бектрекинг. Поэтому, слово «обучение» тут именно в кавычках, и с натяжкой, это де-факто никакое не обучение.

59 Комментариев
  • Дмитрий Ш
    01 ноября 2016, 15:12
    Просто здОрово.) Только зачем это?..
      • waldhaber
        01 ноября 2016, 15:19
        sortarray sortarray, уже ответил на мой вопрос.)
      • Пафос Респектыч
        01 ноября 2016, 17:22
        sortarray sortarray, нейросетей разных понапридумана куча для разных задач. English, can you read it? http://www.asimovinstitute.org/neural-network-zoo/
        Вот перевод, только у меня через ламанш чот картинки не грузятся: https://habrahabr.ru/company/wunderfund/blog/313696/
  • Активный Инвестор
    01 ноября 2016, 15:17
    То что вы их бросили вовсе не означает, что они вас бросят, перестанут вас распознавать, кластеризовать, использовать для самообучения и тренировки…
  • waldhaber
    01 ноября 2016, 15:19

    А интерес-то какой, прикладной или так чисто для эрудиции?

    Я так же профан, но по тем немногим кусочкам выхваченным из нета сложилось впечатления, что с 60-70ых в применении мало продвинулись, хотя изучение обороты вроде бы набирает..

      • day0markets.ru
        01 ноября 2016, 17:45

        sortarray sortarray, продвижение в нейронных сетях по сравнению с 60-70ми ОГРОМНОЕ. Вот только недавно появилась возможность создавать реально сложные сети, которые быстро обучаются и анализируют информацию. Появились серьезные фреймворки для deeplearning типа Teano… И да… та же победа в игре Go, Siri, Kortana и тд. Хайпа нет — просто появилась возможность реально что-то быстро обучать и появилась возможность быстро девелопить. Опять же видеокарты, процы и тд. 

        Увы, в случае торговли оно напрямую работать не будет адекватно. Рынок — на 95% случайное блуждание. Нормально учить сеть на неочищенных данных — пустое занятие. 

        Ну а вот, например, научить сеть различать паттерны на графиках — это достаточно несложная и решаемая задача. 

        • ELab
          03 ноября 2016, 16:07
          Alex Hurko, вы сами себе противоречите. если рынок случайное блуждание, то и паттернов нет. это легко показать, если собрать в кучу несколько параметров — например изменение цены за 1 час. этот график будет шуметь так же как и цена (неудивительно, ведь это производная от цены) 
          • day0markets.ru
            03 ноября 2016, 17:41
            ELab, тут нет противоречия. Случайное блуждание может порождать паттерны в том или ином виде (под паттерном я подразумеваю любой графический элемент). Условно говоря, нейросеть научится распознавать разные комбинации из нескольких свечей (но предварительно надо дать ей размеченные человеком данные), но не факт что этот паттерн будет рабочим ибо рынок на 95 % случайность. 
    • Пафос Респектыч
      01 ноября 2016, 16:08
      waldhaber, ну-ну ) про беспилотные автомобили слышали что-нибудь? А про AlphaGo? ))
      • waldhaber
        01 ноября 2016, 16:20
        Zweroboi, беспилотники слышал, но причём там нейросети? Может пруфом поделитесь?)
        • Пафос Респектыч
          01 ноября 2016, 17:14
          waldhaber, там машинное зрение как минимум, а оно всё на нейросетях. Гугл в помощь )
  • Vlаdimi®
    01 ноября 2016, 15:20
    Служил Гаврила нейроплётом.
    Гаврила нейросети плёл)))
  • Слава Птицын
    01 ноября 2016, 15:26
    Нейросети — вид статистических моделей, не более. Это полная лажа.

    В башке нейроны раз в три дня «перепаивают» синаптические связи. С учетом, того что нейронов там около 100 ярдов… В компах это не возможно воспроизвести физически.

    Машинные алгоитмы не имеют ничего общего с работой мозга. Да, периферийными нейронами, рецептами мозг управляет электрическими сигналами.
    Но внутри башки нет электросигналов, а идут биохимические реакции.
      • neophyte
        01 ноября 2016, 16:22
        sortarray sortarray, здесь немного о механизме работы реальной нервной системы
          • neophyte
            01 ноября 2016, 20:28
            sortarray sortarray, у меня создалось впечатление, что он не только теоретик. :)
      • Слава Птицын
        01 ноября 2016, 16:52
        sortarray sortarray, 

        С.В. Савельев. доктор, профессор. завлаб Института морфологии чело человека АМН РФ.

        У него несколько книг, они с революции резали мозги великих людей. Никакого блабла… Только результаты исследований и ссылки на авторов.
        Известный фотограф по съемкам нейронов мозга, член союза художников, вроде даже.

        Есть сайт, там все найдете.
        s-v-saveliev.ru/
        Рекомендую. Все крайне материалистично и даже цинично, но резко отличается от мечт хомячков(

      • Слава Птицын
        01 ноября 2016, 16:59
        sortarray sortarray, 
        Нет моделей, в башке, нет «верняка», как в алгоритмах. В башке только «возможно». Она вероятностно работает, случайным образом.
          • Слава Птицын
            01 ноября 2016, 17:26
            sortarray sortarray, 

            В башке нет моделей. Все модели при увеличении выборки в конечном итоге регрессируют к среднему. А для живого это смерть, гибель в отборе.

            Схоже с квантовой неопределенностью. Т.е., что бы существо выжило в этом мире его морфология должна быть подобна этому миру.
            А модели всяких дядек лишь фрагменты статистических рядов.
              • Слава Птицын
                01 ноября 2016, 18:26

                sortarray sortarray,  Сразу видно человека с высоким уровнем доминантности)
                Да нет никакого мейнстрима, господство невежества сплошное.

                Мозг уникален, все отжившие и существующие особи имеют уникальный мозг, единственный в своем роде.

                Мало того, все отжившие и существующие существа выживают миллионы лет (транзакций) не в каких-то отдельных моделях (пусть даже навороченных), а во всей бесконечной совокупности событий во Вселенной.

                Ну и сами компы (сами бошки) не наследуются, через геном. Мозги и нервная система формируется морфогенетически в первые недели беременности, когда геном еще не работает. Что проверяли в школе, перетягивая оплодотворенную икринку. В результате рождается два лягушонка, а не один перетянутый пополам.
                Нервная система и мозг, типа как цвета побежалости на металле от нагрева. Все рисунки похожи, но вероятность совпадений бесконечно мала.

                Ну, нет таких моделей. Для интеллекта нужны морфогенетические модели. Модели должны рождаться вместе с компом и быть уникальными в каждой своей персональности.

                Один комп, одна модель.

    • Hedgehog
      01 ноября 2016, 19:46
      Слава Птицын, 
      «Машинные алгоитмы не имеют ничего общего с работой мозга.»
      Глубокая мысль… что, любые алгоритмы? Их, между прочим, не машина, а человек создаёт.

      В любом скромном домашнем ПК 4-8 ярдов байт памяти ...

      Внутри башки есть электросигналы :) И даже магнитное поле.
      • Слава Птицын
        01 ноября 2016, 19:59
        Hedgehog, 
        Поля есть у всего, даже у заднеприводных газов. Элементарные частицы, мать их. они фонят)

        У пиявки что-то около 9 нейронов. Соберите пиявку, чтоб она писала и какала, ела, переваривала пищу. реагировала на раздражители, размножалась.....
        А потом про компы поговорим.
        Или дрозофилу попробуйте поймайте. а у нее вообще башки нет. Хотя, вроде бриты считали, что штук 70 нейронов есть.

        Креаклы сильно нагадили в мозги населению(
      • Слава Птицын
        01 ноября 2016, 20:15
        Hedgehog, 
        Я не против компов и разума… Муху создайте, я без стеба. Мы ее к сведению ордеров приспособим в HFT ботах)
        www.gazeta.ru/science/2008/08/29_a_2825489.shtml

        "… за 200 миллисекунд… сдрыскивает от трабла..

        При этом дрозофила учитывает не только положение собственного тела и направление на источник опасности. Её мозг успевает принять во внимание и различные позы, в которых она находится в момент обнаружения надвигающейся угрозы; например, её лапки в разные моменты времени могут быть заняты чисткой тела или участвовать в приеме пищи, шагать по кухонному столу или добиваться расположения мушек противоположного пола."

        Если бы я умел так с подруги подрываться, то хрен бы меня родаки спалили.
          • Слава Птицын
            01 ноября 2016, 22:17
            sortarray sortarray, 
            Подражание — суперский эволюционный навык. вся наша жизнь — подражание, от учебы до речи. Оно экономит энергию.
            Башка жрет до четверти бутербродов на уникальные решения, а подражание менее 10%. Навые синаптические связи между нейронами очень затратно создавать.

            У меня есть устойчивое чувство, что мы слишком много о себе возомнили.
            Т.е. у нас очень развиты речевые объяснялки. И за счет неокортекса работаем с большим объемом. Но рефлекторно мы такие же зверюшки.

            youtu.be/agZXXq_fp4c

              • Слава Птицын
                01 ноября 2016, 22:41
                sortarray sortarray, 

                Я вообще в нашем интеллекте сомневаюсь. Убиваем себе подобных мы больше, чем зверюшки. Они для еды и редко при самообороне.

                99.9% за свою жизнь не придумали ничего нового ни слова, ни смысла, ни термина… И даже «новые устройства — компиляция радио и телефона, автомобиля и кондиционера… и тп.

        • Hedgehog
          07 ноября 2016, 23:03
          Слава Птицын, Да ерунда это все, примитив. Ножки она видите-ли в направлении угрозы выбрасывает, а что-ж ей еще делать ..:)
          Пусть она попробует у Каспарыша в шахматы выиграть.
          • Слава Птицын
            07 ноября 2016, 23:16
            Hedgehog, 
            Шахматы это простейшая комбинаторика, правда на большой глубине. Собственно, потому и компы каспарышей уделали, добавили ядер и гроссмейстерам кранты. А вот с мухой, тараканом или даже пиявкой у них неразрешимые проблемы.
  • ves2010
    01 ноября 2016, 15:33
    есть научпоп на эту тему… книга называется как построить свою экспертную систему… что то вроде…
  • Vinni
    01 ноября 2016, 15:33
    Не «бектрейсинг», а бектрекинг.
  • MixStyleTrader
    01 ноября 2016, 16:29
    Просто один из методов для решения задач. Для игры Го оказалась хорошая тема, для шахмат лучше другие методы. Большая выборка данных нужна (образец — ответ), чтобы «научить».
  • Prophetic
    01 ноября 2016, 17:22
    Куда-то в дебри всех понесло.
    Все значительно проще.
    Если мы рассматриваем данную тему в области применения в биржевой торговле, и ориентируемся на текущий уровень развития технологий, то:
    — нейросети имеют право на существование, наравне с любыми другими алгоритмами торговли;
    — люди, которые думают, что с помощью однажды построенной нейросети они навсегда решат проблему прибыльной торговли — глубоко ошибаются. Тут работает простейшая аналогия с вечным поиском грааля;
    — по своей сути торговая система, построенная на базе нейросети, представляет из себя сильно усложненный программный комплекс по поиску и эксплуатации паттернов;
    — грамотная реализация модели требует огромных трудозатрат;
    — придумать и реализовать полностью автоматизированный статический алгоритм торговли значительно проще и быстрее;
    — из предыдущих двух пунктов следует, что результат не оправдывает средства;
    — все упоминания (из тех, что попадались мне на глаза) о том, что человеку удалось создать прибыльного робота на основе нейросети, не имели продолжения и через некоторое время авторы переставали сообщать о каких-либо результатах, а некоторые вообще переключались на околорынок.

    Вывод: Не теряйте время. Займитесь более плодотворной работой.
  • XXM
    01 ноября 2016, 19:47
  • Чарльз Маккей
    02 ноября 2016, 00:59
    Логично, что в 'неиросетях' не может быть никаких гармонов, эмоций и стимуляторов (эту роль играет электричество из розетки), есть только расчеты. Вам дают 'вумную' лекцию о гармональной системе, говорят что это пример 'реальной работы'. Реальной работы чего? Просто диву даешься сколько идиотов вокруг…
      • Чарльз Маккей
        02 ноября 2016, 13:02
        sortarray sortarray, я даже не писал коментария к вашему сообщению… вы просто неадекват, который видит знакомое полуругательное слово, по привычке думает что оно относится к нему, даже не понимает что ему пишут, и потом как баба сразу переходит на личности. Это называется персонализация проблемы. Какие там неиросети… Лечись, дружище.
    • Слава Птицын
      07 ноября 2016, 23:25
      MyKey, 
      Только все забывают, что т.н. «нейросеть» к нейронам и деятельности мозга никакого отношения не имеет. Да, что тут спорить?! Никто не знает, как башка работает.
  • ELab
    03 ноября 2016, 16:01
    Рынок это белый шум, а зависимости, кроме, основанных на мат. ожидании отсутствуют. Нейросети лучше и выгодней применять для приложение AI. Парни делают десятки миллионов. Prisma, Mascarad это только что мы знаем о русскоязычных стартапах. В мире большого бизнеса речь уже о миллиардах.

Активные форумы
Что сейчас обсуждают

Старый дизайн
Старый
дизайн