«В конце войны он подготовил секретный меморандум для Bell Labs под названием «Математическая теория криптографии», датированный сентябрём 1945 года. Эта статья была рассекречена и опубликована в 1949 году как «Теория связи в секретных системах» в Bell System Technical Journal. »
МЕДВЕДЕВ ЮРИЙ ИВАНОВИЧ полковник. Родился в 1929 году в городе Иркутске. В 1953 году окончил физико-математический факультет Московского государственного университета им. Ломоносова. Учился в аспирантуре НИИ-1 ГУСС, аспирантуре 8-го Управления МВД, аспирантуре 8-го Главного Управления КГБ, которую закончил в 1956 году. Доктор физико-математических наук, профессор. С 1953 по 1962 год сотрудник, старший сотрудник, старший научный сотрудник отделов 8-го Главного Управления КГБ. С 1962 по 1976 год начальник отделения, научный консультант отдела 8-го Главного Управления КГБ. С 1976 по 1985 год научный консультант 8-го Главного Управления КГБ.
Ho_Chu, Вот Вы вдвоём с оппонентом и померьтесь, на радость публике и в качестве компенсации за бездарно потраченное время на чтение этого бесцельного диалога:)
В 1946 году Шеннон разработал подход к определению количества информации в сообщениях, который учитывал неравновероятное появление символов и их статистическую связь.
Формула Шеннона для вычисления количества информации имеет вид:I = — (p1 log2 p1 + p2 log2 p2 + … + pN log2 pN),где:
I — количество информации;
N — количество возможных событий;
pi — вероятность того, что именно i-е событие выделено в наборе из N сообщений.
Теорема Шеннона, о которой я говорил — это точно 1946-й год. Просто эта работа была закрыта до 1949-го и вышла в обобщенном варианте.
Наберите в Яндексе «формула Шеннона 1946-го года» и Алиса Вам все расскажет :)
Просто я же по образованию математик-криптограф и потому о ней узнал еще во время обучения. А в других физмат ВУЗах СССР о ней было запрещено говорить на открытых лекциях и семинарах.
А о невозможности получения оценки постоянного среднего нестационарного распределения методом Монте-Карло на имеющихся наблюдениях — это учебник по теории вероятностей и математической статистике Медведева и Ивченко в 1978-м году первый раз выпущенный.
Но, увы, в статьях авторов учебника в журнале Теория вероятностей и ее применения этого не нашел, а рыться в англоязычных источниках из списка литературы было лень.
А учебник читал потому, что и тот, и другой были математиками-криптографами, очень известными в узких кругах :)
Ho_Chu, ну вот и пришли к почти общему мнению. Только не понял, где я ошибся в датах с теоремой Шеннона и временем (первая половина 80-х годов прошлого века), когда узнал о невозможности получения оценки постоянного среднего нестационарного распределения методом Монте-Карло на имеющихся наблюдениях.
Других дат я и не называл.
Всё новое из 90-х — это только то, что метод обучения нейросети — это частный случай метода Монте-Карло.
Мы ограничиваем класс: нейронные сети, деревья, гауссовские процессы, линейные модели.
Да я говорил только о нейронных сетях, потому что функциями, используемыми в них, перебором можно приблизить любую функцию g(t, X).
Собственно моё утверждение и было только, что нельзя использовать обучающуюся нейросеть на вход которой подаются прошлые цены, Ничего другого я утвеждать не могу.
Так что ИИ с какими-то другие функциями и другими принципами повторения мои утверждения точно не имеют никакой связи.
Кстати, я хотел это добавить в предыдущий пост, но Вы ответили быстрее.
А теорема Шеннона как раз другая: этим методом Вы получите все открытые тексты длины N, а потому не сможете узнать, какой был послан :)
Ho_Chu, о, вспомнил. Лучшим в среднеквадратичном прогнозом пока ненаблюдаемой случайной величины У от наблюдаемого случайного вектора Х является среднее У по условному распределению У/Х. Это есть ещё в учебнике Феллера 60-х годов.
Для любого условного распределения это условное среднее является некоторой детерминированной функцией от Х. Это есть в учебнике Медведева, Ивченко 1978-го года.
По всем случайным процессам с конечным матожиданием эти функции представляют собой множество всех конечных функций R^n->R
Для нестационарных процессов эти функции от Х разные в разные моменты времени.
Если никакие свойства любой наблюдаемой конечной функции g(X, t) априори не определены, то определить эту функцию методом перебора улучшающим значение любой однозначной функции от всех наблюдений невозможно, потому что существует бесконечное множество различных функций g, для которых эта величина будет иметь одно и тоже значение.
Кстати, теорема Шеннона — это частный случай последнего.
Вот «откуда» мои «знания». И всё это точно было в высшей математике ещё в первой половине 80-х годов прошлого века, ведь я поступил в физмат ВУЗ в 1979-м.
Ho_Chu, это не точно об uniformly minimum mean-squared-error predictor. Та печатная работа была основана на невозможности получения хороших оценок любых семиинвариантов одномерных функций от независимого нестационарного случайного многомерного процесса методом перебора. А среднее — это только частный случай семиинварианта одномерного случайного процесса.
И не ИИ меня тогда интересовал, а методы дешифрования. Для меня это в каком-то смысле был аналог теоремы Шеннона 1946-го года, о невозможности дешифрования при наложении на двоичный открытый текст неизвестной случайной независимой и равновероятной двоичной последовательности по модулю два.
Ho_Chu, теорема 80-х годов прошлого века о невозможности статистических прогнозов функций от нестационарных случайных векторов путем оптимизации выбора функции по одномерной ошибке.
Ho_Chu, Осторожно, Собчак. Ксения Собчак разберётся, почему трейдеры сливают. И почему теряют годы жизни на лудоманию. Юрий Дудь, люди против трейдинга. Малахов, пусть говорят. Папа проиграл квартиру.