lim

В 1960 году Норберт Винер опубликовал пророческое эссе. В нем отец кибернетики беспокоился о мире, в котором «машины учатся» и «разрабатывают непредвиденные стратегии со скоростью, которая сбивает с толку их программистов». 

Он думал, что такие стратегии могут включать в себя действия, которые эти программисты «на самом деле не желали» и вместо этого были «просто красочной имитацией их». 

Винер проиллюстрировал свою точку зрения басней немецкого поэта Гёте «Ученик чародея», в которой начинающий фокусник зачаровывает метлу, чтобы принести воду, чтобы наполнить ванну своего хозяина. Но стажер не может остановить метлу, когда ее задача выполнена. 

В конце концов метла приносит так много воды, что заливает комнату, потому что ей не хватает здравого смысла, чтобы знать, когда остановиться.

Поразительный прогресс современных исследований в области искусственного интеллекта (ИИ) показал, что опасения Винера вновь всплыли на поверхность.