Блог им. Koleso

Воспитание машин. Новая история разума. Сергей Шумский

Воспитание машин. Новая история разума. Сергей Шумский


Электронная книга flibusta.is/b/631450/read (Нужен VPN)

Каковы социальные и экономические последствия развития машинного интеллекта и как изменится наша жизнь в ближайшие десятилетия?

 

Отвечая на эти вопросы, известный российский специалист в области искусственного интеллекта Сергей Шумский использует исторический подход, отслеживая смену технологических эпох вплоть до сегодняшних дней.

Появление машинного интеллекта знаменует начало перехода к новому укладу, новой цифровой экономике. Но эта революция, как и любая другая, чревата множеством рисков – от потери социальной стабильности в отдельных странах и на международной арене до экзистенциальных вызовов, связанных с утратой отдельными людьми и человечеством в целом контроля над собственной судьбой.

 

Поэтому очень важно, чтобы искусственный разум максимально приближался к человеческому в отношении общественных инстинктов и гуманистических ценностей, а следовательно, необходима надежная практическая программа по формированию человекоподобной искусственной психики и развитию новой науки машинного воспитания.

 

Сергей Шумский  много лет занимается проблемой машинного обучения и ИИ, – поставил перед собой сложную задачу. На основе анализа прогресса технологий в разные эпохи он решил показать неизбежность использования машинного интеллекта в наши дни.

 По мнению автора, 40 лет – реальный временной горизонт создания сверхчеловеческого машинного интеллекта, способного коренным образом изменить жизнь людей. 

И эта книга о социальных последствиях использования искусственного интеллекта. 

Главное отличие этой книги от многих других – попытка рассмотреть искусственный интеллект в глубоком историческом контексте.

Основная мысль этой книги в том, что машинный интеллект, когда он появится, неизбежно станет частью общей человеко-машинной цивилизации и унаследует от нее наши человеческие ценности. 

Правда, за такой благоприятный для людей сценарий нам придется побороться – создать не просто искусственный интеллект, а дружественный ИИ, и тому, как этого добиться, уделено особое внимание.

без создания искусственного разума в ближайшие годы человечество просто не сможет обойтись.

 

Индустриальная цивилизация достигла пределов своего развития.

Обеспечить приличное существование всему населению Земли (а не только «золотому миллиарду») имеющиеся технологии не в состоянии: биосфера просто не выдержит такой нагрузки.

Назревающие экономические проблемы способны разрешить только новые цифровые технологии, главным образом искусственный интеллект. 

Начнем издалека – с краткого введения в историю технологических укладов: от цивилизации охотников-собирателей через аграрную и промышленную революции к современному обществу.

 

покажем, за счет чего революция позднего палеолита увеличила в конечном итоге население Земли в 100 раз, а последующая аграрная революция – еще в 100 раз. Наконец, почему индустриальное общество не способно прокормить более 10 млрд человек, так как достигло своего предела сложности.

 

Ключом к пониманию цифровой революции является обобщенный закон Мура – рост компьютерных мощностей в 100 раз каждые 10 лет.

 

Совокупная вычислительная мощность компьютеров — единственный обильный и дешевый ресурс, за счет которого можно повысить эффективность мировой экономики. Но для этого необходимо научить компьютеры делать человеческую работу лучше и дешевле людей.

 

Таким образом, ИИ является замыкающей технологией, открывающей возможность перехода к новому технологическому укладу.

современный слабый ИИ знаменует собой начало перехода к новому цифровому укладу.

 

Далее, обратимся к экономике цифрового уклада.

За счет чего она будет в разы эффективнее индустриальной?

Почему в ней станет производиться больше благ с меньшими затратами? 

 

Ключевым понятием здесь будет экономика «длинного хвоста» – существенное расширение рынка товаров и услуг при переходе от массового к персональному потреблению и производству.

 

цифровые платформы являются новыми ячейками будущей цифровой экономики. Именно они предъявляют сегодня основной спрос на технологии искусственного интеллекта и служат драйверами его развития.

 

Цивилизация машинного интеллекта обязана иметь систему встроенной коллективной безопасности по аналогии с новейшими ядерными реакторами, в которые безопасность встроена на физическом уровне.

 

определим методологию разработки сильного ИИ – обратную инженерию архитектуры мозга – и сформулируем ее цель: создание искусственной психики в качестве будущей операционной системы роботов. В довершение покажем, как может выглядеть цифровая платформа массовой робототехники со встроенной системой коллективной безопасности.

В завершение, заглянем в будущее с разной степенью уверенности на разных временны́х горизонтах, начиная с ближайших 5–10 до 20–40 лет – предполагаемого времени появления ИИ сверхчеловеческого уровня. 

 

Глава 1. Технологические уклады и технологические революции.

 

раннюю историю человечества отделяют от современности несколько крупных технологических революций.

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 2)

Какая технология играла роль замыкающей, чье появление дало старт безудержной экспансии Homo sapiens?

 

По всей видимости, такой замыкающей технологией стало появление языка – одного из последствий увеличения объема мозга. 

 

по-видимому примерно 70 000 лет назад, размер мозга Homo sapiens превысил некий критический порог, что сопровождалось появлением символического мышления и языка с развитым синтаксисом.

 

революцию верхнего палеолита автор книги «Sapiens. Краткая история человечества» Юваль Ной Харари назвал когнитивной революцией.

 

Аграрный уклад.

● Базовый ресурс: плодородная почва речных пойм и побережья рек.

 

● Технологический пакет: одомашнивание растений и животных, ремесла, судоходство, письменность.

 

● Организация жизни: сельские поселения и города, государство и право.

 

около 10 000–12 000 лет назад в ходе так называемой неолитической революции и состоял в переходе к оседлому образу жизни, основанному на новом – аграрном – технологическом пакете.

 

Сельское хозяйство в поймах и по берегам больших рек могло прокормить существенно больше людей, чем охота и собирательство по всей Земле. 

 

специализация разных регионов на «своих» сельскохозяйственных культурах сделала торговлю необходимым элементом неолитического технологического пакета, что, в свою очередь, привело к развитию письменности, мореплавания и связанных с ними ремесел, включая металлургию.

Воспитание машин. Новая история разума. Сергей Шумский

(рис. 4)

 аграрная цивилизация может прокормить в 100 раз больше людей, чем палеолитическая.

 

Предел численности такой цивилизации – 1 млрд человек – был в реальности достигнут к концу 18 века. Дальнейший рост был возможен только в рамках следующего – индустриального – технологического уклада. И действительно, приблизительно в это время в Европе началась (первая) промышленная революция.

 

Индустриальный уклад.

 

● Базовый ресурс: ископаемое топливо.

 

● Технологический пакет: машиностроение, двигатели, глобальные транспортные сети.

 

● Организация жизни: города, глобализация.

 

Переход от аграрного к индустриальному укладу принято делить на несколько этапов, называемых промышленными революциями.

 

В первую очередь это первая промышленная революция 18 – первой половины 19 века, превратившая Англию в главную «мировую фабрику».

 

Ее энергетической основой был каменный уголь, заменивший лес, почти полностью сведенный на нет, а технологический пакет был основан на паровом двигателе.

 

Со второй половины 19 до середины 20 века первая промышленная революция перерастает во вторую во главе с США.

 

Список энергоносителей пополняется сначала нефтью для транспорта, а затем и природным газом для отопления. Технологический пакет массового индустриального производства основан на двигателях внутреннего сгорания.

 

начиная с 19 века в мире наблюдается значительный и постоянный рост доходов на душу населения. 

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 6)

С появлением сети железных и автомобильных дорог исчезла жесткая привязка пашни к руслам рек.

 

новая транспортная инфраструктура и агрохимия позволяют индустриальной цивилизации прокормить на порядок больше людей, чем аграрная: до 10 млрд человек за счет использования ископаемого топлива.

 

Концентрация богатства в городах связана с тем, что в них обычно сосредоточено производство наиболее сложных и дорогих продуктов и услуг, создаваемых при участии представителей множества профессий.

 

Поэтому уровень жизни в мегаполисах с более развитой системой разделения труда обычно существенно выше среднего.

 

Свободной земли, пригодной для промышленного сельского хозяйства, на планете уже не осталось. Под производство пищи занято 50 % всей доступной суши.

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 8)

Замедление роста населения Земли, наблюдающееся со второй трети XX века, является важным индикатором современного глобального кризиса.

 

Точка перегиба кривой роста народонаселения была пройдена примерно в 1970 году, когда на Земле наблюдался пик скорости роста населения (2 % в год).

 

Сегодня, демографы прогнозируют стабилизацию населения Земли в 21 веке на уровне около 10 млрд человек.

 

Ответом на этот новый глобальный кризис является то, что обычно называют третьей промышленной революцией, связанной с цифровой обработкой информации, и четвертой – связанной с киберфизическими системами.

 

Мы будем считать их разными фазами большой цифровой революции, переходом к новому цифровому технологическому укладу, ключевым ресурсом которого станет уже не энергия, а информация.

 

Закон гиперболического роста населения подсказывает нам следующую гипотезу: количество знаний, накопленных человечеством, пропорционально квадрату числа людей.

 

 Скорее всего, средний объем знаний типичного человека на протяжении всей истории существенно не менялся.

 

Что изменялось с течением времени, так это избыточность информации.

 

Чем примитивнее общество, чем меньше в нем степень разделения труда и тем больше знаний в головах различных людей дублируется. С ростом разделения труда такое дублирование информации снижается. И если все древние люди обладали примерно одним и тем же набором знаний, то в современном обществе существует уже порядка 105 профессий, и гранулярность человеческих знаний продолжает стремительно нарастать.

 

Возможно, мы уже вплотную приблизились к пределу сложности человеческой цивилизации, так как, если знания всех людей не будут пересекаться вовсе, они перестанут понимать друг друга.

 

Итак, к чему мы пришли в результате нашего анализа?

 

К тому, что знания человечества, а значит, и производительность труда уже не смогут увеличиваться прежними темпами.

 

современная цивилизация достигла пределов своего развития, упершись в ограниченные способности человеческого мозга. Более сложную и производительную цивилизацию, опираясь лишь на человеческий разум, мы построить не в состоянии!

 

Отсюда неминуемо следует, что, если мы хотим двигаться вперед, если хотим лучшей жизни для наших детей и внуков, мы должны найти если не замену, то какое-то подспорье человеческому разуму, то есть создать искусственный интеллект.

 

 И жизнь, если присмотреться, уже сделала этот свой выбор.

 

Цифровой уклад.

● Базовый ресурс: информация и знания.

 

● Технологический пакет: компьютеры, сети, машинный интеллект.

 

● Организация жизни: удаленная работа, сетевые организации, виртуальные миры.

 

и в материальных товарах, и в услугах все возрастающую роль будет играть цифровая составляющая.

 

Например, цена современных автомобилей, особенно класса люкс, все в большей степени определяется стоимостью цифровых компонентов и программных продуктов, а со временем практически все продукты и услуги будут насыщены электроникой и искусственным интеллектом.

 

Уже сегодня мы наблюдаем рост глобальных платформ, обеспечивающих персонализированное потребление товаров и услуг за счет умных рекомендательных систем: Google и Facebook организуют персональную доставку информации и новостей,

Amazon и eBay – продуктов и услуг,

YouTube и Netflix – видеоконтента.

 

И, как зародыши новой фазы, эти бизнесы растут на порядок быстрее остальной экономики: 25–50 % против 2–3 %.

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 11)

Поскольку в основе всех этих платформ лежат технологии искусственного интеллекта, вложения в них растут опережающими темпами и измеряются десятками миллиардов долларов в год.

Эта новая мировая «гонка за ИИ» обостряется тем, что в мире платформ действует принцип «победитель забирает все».

 

Резюме.

 

мы проследили в общих чертах логику развития человечества от древности до наших дней, обозначив базовые параметры цивилизации на каждой ступени ее развития.

 

Логика дальнейшего развития тоже прояснилась: нам предстоит преодолеть барьер сложности современной цивилизации за счет создания и «приручения» искусственного интеллекта.

 

Только таким образом человечество сможет развиваться дальше. Цифровая революция, как и всякая другая, таит в себе много рисков.

 

Давайте теперь проследим начальные этапы этой революции, сравнивая их с аналогичными этапами предыдущих промышленных революций, чтобы понять, где именно мы находимся и чего нам следует ожидать в ближайшем будущем.

 

Рассмотрим: Эволюцию цифровых технологий: от первых ЭВМ до роботов.

 

Цифровая революция состоит в постоянном увеличении доли машинной компоненты коллективного, человеко-машинного мышления. В какой-то момент непрерывно растущие возможности компьютеров неизбежно сравняются с человеческими, а затем и превзойдут их. 

 

Сознательное мышление определяет скорость обучения, передачи знаний. Ведь бóльшую часть наших профессиональных знаний мы получили в процессе коммуникации с другими людьми. Скорость обучения особенно важна, так как она ограничивает объем наших знаний.

 

знания каждого из нас составляют не более 10 ГБ.

 

Но, для решения сложных задач важны не столько вычислительные мощности, сколько сложные алгоритмы. А сложность современных компьютерных программ до сих пор недотягивает до человеческого уровня. 

 

узким местом, мешающим созданию компьютерного разума, является трудоемкость ручного программирования или, в более общем случае, процесса передачи компьютерам знаний.

 

Как только этот процесс будет автоматизирован, путь к искусственному интеллекту окажется свободен. Компьютерные мощности для него уже готовы. Вот почему сегодня фокус исследований в сфере ИИ сосредоточен в области машинного обучения – автоматизации процесса создания компьютерных программ. 

(Гиперболическое распределение богатства).

Здесь будет уместно познакомиться с еще одним законом – гиперболическим распределением богатства в человеческом обществе. 

 

степень неравенства между обычными и самыми богатыми людьми (например, соотношение их доходов) пропорциональна численности населения Земли и, следовательно, постоянно возрастает.

 

 

Смартфоны стали неотъемлемым аксессуаром большинства людей, их «экзокортексом» – частью мозга, вынесенной наружу. Их стали приспосабливать к решению любых бытовых проблем.

 

Все услуги, за которыми раньше приходилось обращаться в разнообразные офисы, стали доступными онлайн – здесь и сейчас: от справочной информации до получения ипотеки, от заказа пиццы до заказа такси. Началось слияние онлайн– и офлайн-миров.

 

новой формой бизнеса является создание платформ, предоставляющих доступ ко множеству сервисов, и персональных электронных ассистентов в качестве интерфейса к этим платформам. Причем, чем более дружественным будет общение между пользователем и его ассистентом, тем большими будут конкурентные преимущества этой платформы.

 

Иными словами, очередное поколение человеко-машинного интерфейса предполагает создание искусственного интеллекта.

 

Создание искусственного интеллекта требует глубокого синтеза технических и гуманитарных знаний, и именно эта непростая задача встает сегодня во весь рост перед наукой.

 

Мы должны объединить компьютерные науки с математикой машинного обучения, знаниями о механизмах работы мозга и тонкостях человеческой психики. Мы должны построить действующие модели искусственной психики, объясняющие человеческое поведение, и, поняв, как она устроена, наделить ею… роботов.

 

Только в этом случае роботы и программные агенты смогут вписаться в человеческую цивилизацию «на наших условиях».

 

Как в свое время паровые двигатели, машинное обучение расшивает узкое горло, сдерживающее массовый переход на новый технологический уклад.

Современное глубокое обучение можно уподобить первым громоздким паровым двигателям с их чудовищно низким КПД.

 

Обучение глубоких нейросетей сегодня требует больших массивов данных и еще больших вычислительных ресурсов.

 

Резюме.

 

буквально на наших глазах во втором десятилетии XXI века сформировалась замыкающая технология технологического пакета – искусственный интеллект, в его первой, пока еще несовершенной, версии.

 

Теперь проследим, как эта технология вписывается в современную экономику, за счет чего увеличивает производительность труда и каким требованиям должна будет удовлетворять для окончательного перехода к цифровому укладу.

 

Ограничения слабого ИИ позволят нам сформировать «техническое задание» для сильного ИИ, основываясь на тех проектах по его созданию, которые сегодня уже объявлены.

 

Вероятно, что эти проекты будут обеспечены достаточными ресурсами со стороны заинтересованных инвесторов, мы сможем относительно обоснованно предсказать наше ближайшее будущее.

(Глава 3. Экономика цифровых платформ. Экономика больших данных: персонализация).

Главное отличие нового цифрового уклада от предыдущего, индустриального, – персонализация всего и вся.

 

в лидеры цифровой экономики выбиваются так называемые цифровые платформы, имеющие доступ к максимально большим объемам данных, точнее, способные сами генерировать необходимые им данные в процессе общения с пользователями.

 

платформы организуют и обслуживают «длинный хвост» пользовательских предпочтений, с одной стороны, и «длинный хвост» производителей – с другой.

 

Цифровые платформы – это типовые ячейки новой цифровой экономики, приходящие на смену транснациональным компаниям индустриальной эпохи.

 

Ведущие цифровые платформы быстро превращаются в «естественные монополии» благодаря сетевому эффекту, характерному для любых сервисов, основанных на машинном обучении.

 

чем больше у сервиса пользователей, тем больше у него данных и тем выше его качество, что еще больше увеличивает количество его пользователей, и т. д.

Возникает положительная обратная связь, приводящая к появлению лидера данного сегмента и его экспоненциальному росту. 

(Первые цифровые платформы: интеллект из больших данных).

примером первого поколения цифровых платформ является Amazon, оператор «длинного хвоста» в ретейле.

 

«Секретным оружием» Amazon является его рекомендательная система, помогающая пользователям ориентироваться во всем этом разнообразии.

И основана она на алгоритмах машинного обучения, превращающих обычные учетные данные – кто что купил – в персональные рекомендации: кому что может быть интересно.

(Современные цифровые платформы: сенсорный интеллект).

в 2020-х годах нас ожидает инвестиционный бум новых доткомов, использующих разработанные в 2010-х технологии глубокого обучения.

 

через своих электронных ассистентов – Google Assistant, Alexa, Cortana и им подобных – современные платформы продвигают свои сервисы в массы. Умные колонки сегодня – один из наиболее быстро растущих сегментов потребительской электроники.

 

Разговорный интерфейс – путь к сильному ИИ.

 

Сегодня, проблема не в распознавании речи, а в понимании ее смыслового содержания и умении вести осмысленную беседу, то есть в создании того, что можно назвать разговорным интеллектом.

 

Разговорный интеллект относится к гораздо более сложному классу задач – обучению адаптивному целесообразному поведению, включая рациональное мышление как разновидность поведения в семантическом пространстве и умение осознанно манипулировать смыслами. А это – прямой путь к настоящему сильному ИИ.

 

Рынок разговорного интеллекта удваивается каждые 2 года.

 

 спрос на сильный ИИ в современной экономике уже сформировался, и мы понимаем, кому и для чего он сегодня нужен.

 

Следовательно, этим уже имеет смысл заниматься, хотя еще совсем недавно после всех пережитых разочарований задача построения сильного ИИ всерьез не воспринималась, а разговоры о нем считались ненаучными.

 

Цифровые платформы будущего — это интеллект роботов.

 

Сенсорный интеллект агентов предстоит дополнить моторным интеллектом роботов – способностью активно взаимодействовать с миром, иметь предиктивную модель внешнего мира и своих действий в нем, чтобы, например, понимать, что стул или чашку можно переставить с места на место, а шкаф или машину лучше и не пытаться, или что, если чашку наклонить, ее содержимое выльется, или что двери иногда открываются легко, а иногда нет и, если они заперты, в них надо не ломиться, а стучаться.

 

Последнее уже относится к области социального интеллекта – понимания того, как принято себя вести в обществе, чего от тебя ждут в тех или иных ситуациях.

 

для этого у роботов должна быть искусственная психика с врожденным любопытством, настроенная, как и у детей, на постоянное обучение, чтобы как можно скорее набраться опыта и научиться достигать своих целей в этом сложном и непредсказуемом поначалу мире.

 

Искусственная психика роботов должна быть настолько универсальна, чтобы она могла обеспечить эффективное обучение всем видам интеллекта: сенсорному, моторному, социальному и разговорному. 

 

Резюме.

Итак, цифровая экономика – это экономика платформ, рост влияния которых на экономику мы наблюдаем с начала 21 века.

 

Именно платформы больше всех заинтересованы в использовании и развитии технологий ИИ. Сегодня основным драйвером развития сильного ИИ служит спрос на разговорный интеллект агентов. Через какое-то время появится еще более мощный драйвер – спрос на искусственную психику роботов.

 

следует обсудить силы, которые будут препятствовать появлению сильному ИИ.

 

Потому-то каждая крупная технологическая революция сопровождается революциями социальными. Смена технологического ландшафта закономерно приводит к трансформации социальной надстройки.

 

Рассмотрим Социальные проблемы цифровой революции.

 

в ожидании сильного ИИ появится абсолютно новая «экзистенциальная» угроза роду людскому в целом – столкновение с интеллектом, который грозит в конце концов превзойти человеческий.

 

ИИ-безработица.

Первое столкновение людей с искусственным интеллектом произойдет очень скоро, еще в эпоху слабого ИИ.

 

Слишком много людей сегодня заняты «частичным трудом», когда от человека требуется лишь какой-то небольшой набор простых навыков.

 

Вслед за безлюдными сборочными цехами, складами и магазинами появятся безлюдные заводы, робофермы и строительные площадки, где дома будут печатать гигантские 3D-принтеры.

 

Люди станут массово вытесняться из сферы производства и сервисов, как крестьяне вытеснялись с полей в ходе промышленной революции.

 

Тех, кого пенсионерский стиль жизни устроит, будут ждать туризм и индустрия развлечений. Эти отрасли экономики станут соответственно расти и расширять рынок труда.

 

за людьми останется очень важная социальная роль «воспитателей роботов», состоящая в передаче им наших человеческих ценностей. Ведь успех будущей человеко-машинной цивилизации целиком зависит от того, насколько хорошо роботы будут разбираться в людях. 

 

обучаться персональные агенты и роботы будут через подкрепление, то есть одобрение своих действий. 

 

Рассмотрим вопрос о роли государства в эпоху сильного ИИ.

 

ИИ-патернализм.

 

возникновение и быстрое развитие ИИ часто сравнивают с изобретением атомного оружия, которое впервые поставило под вопрос физическое выживание человечества. Начинающаяся на наших глазах гонка за искусственным интеллектом очень напоминает атомную и ракетную гонку вооружений второй половины XX века.

 

Автономные боевые роботы, управляемые по глобальной оперативной сети искусственными стратегами, действительно способны качественно изменить баланс сил в пользу государств, имеющих доступ к соответствующим технологиям.

 

Еще, мы автоматически наделяем искусственный интеллект хорошо знакомыми нам человеческими мотивами, например, стремлением к доминированию, помноженными на его сверхчеловеческие способности по достижению своих целей.

 

Приписывание искусственному интеллекту человеческих мотивов, надо признаться, имеет под собой все основания. В конце концов, «с кем поведешься – от того и наберешься». 

 

Подытожим наш краткий обзор рисков, связанных с развитием ИИ.

 

Во-первых, нам предстоит создать не просто сильный ИИ, а безопасный, дружественный сильный ИИ.

 

Это подразумевает активное участие граждан в выработке согласованной концепции общественной безопасности.

 

Во-вторых, с технической точки зрения желательно, чтобы безопасность ИИ была встроена в саму архитектуру будущих операционных систем роботов, подобно «трем законам робототехники» Айзека Азимова.

 

Наконец, система коллективной безопасности социума, состоящего из людей, роботов и агентов с искусственной психикой, должна быть обеспечена технологически на основе постоянного взаимного контроля.

 

нам следует заранее создавать механизмы саморегуляции сообщества машинных интеллектов с учетом наших интересов.

 

В дополнение к правильным «социальным инстинктам» в будущей искусственной психике мы должны будем разработать и механизмы взаимного контроля всех членов социума, включая ИИ, подобно тому как технология блокчейн автоматически обеспечивает взаимный контроль транзакций в сети.

 

Будущие цифровые платформы должны будут иметь систему встроенной коллективной безопасности, как в последних поколениях ядерных реакторов со встроенной на физическом уровне системой безопасности.

 

Перейдем к обсуждению вопроса, насколько реальны наши планы по его созданию и на каком временном горизонте он может появиться.

(Глава 5. Путь к сильному искусственному интеллекту)

наукам о мозге не хватает объединяющей накопленный эмпирический материал модели человеческой психики, а разработчикам ИИ недостает идей о том, как может быть устроена искусственная психика. Налицо предпосылки для налаживания их более тесного взаимодействия.

 

Если обученную нейросеть начать обучать новой задаче, она будет забывать старые навыки, поскольку разные задачи решаются разными наборами одних и тех же настроечных параметров нейросети.

 

Это известная проблема «катастрофического забывания» в нейросетях, отличающая слабый интеллект от сильного. Настоящий интеллект должен уметь накапливать знания и приобретать новые навыки, не забывая старые. А для этого нужно объединить множество нейросетей в единую искусственную психику со своей архитектурой, определяющей роли и взаимодействие своих подсистем.

 

будем придерживаться следующих определений:

● интеллект – это алгоритм обучения целенаправленному поведению агента;

● разум – это алгоритм обучения целесообразному коллективному поведению агентов.

 

Интеллект можно определить как способность к эффективному обучению и предлагает измерять его как КПД конверсии получаемой из внешней среды информации в знания о том, как достигать своих целей.

(Исследовательская программа по созданию сильного ИИ).

машинное обучение играет для понимания разума такую же роль, как теория эволюции – для понимания жизни.

 

мышление определяется не столько внешними обстоятельствами, сколько нашими внутренними целями, как биологическими, так и социальными. Лучше всего иллюстрирует эту позицию знаменитая метафора Выготского: «Облака мыслей, гонимые ветрами мотивов, проливаются дождем слов».

 

машинное обучение предлагает нам следующую программу исследования и создания сложных самообучающихся систем:

выявление или разработка алгоритмов их обучения (причинно-следственное описание) как решение задач оптимизации (достижения целей) путем увеличения сложности системы (накопления знаний).

 

Машинное обучение предлагает нам практический путь к пониманию мозга и разума, основанный на принципе «понять – значит воссоздать». 

Мы никогда не поймем наше мышление, если не сможем воссоздать его в виде искусственной психики роботов. Искусственный интеллект – это новый экспериментальный полигон для наук о разуме. На этом полигоне можно гораздо быстрее отлаживать и развивать наши модели мышления.

 

Так, например, в последние годы была практически решена проблема машинного зрения, причем настолько хорошо и надежно, что на дорогах уже появились автономные автомобили. 

 

Надо только суметь взглянуть на мозг с точки зрения машинного обучения – отвлечься от субстрата мозга и сосредоточиться на алгоритмах его обучения. Особенно важна вычислительная архитектура мозга, скопировав которую мы как раз и сможем получить искусственную психику роботов.

 

Какова роль наук о мозге в предлагаемой общей исследовательской программе?

Кратко ее можно сформулировать как обратную инженерию мозга, а именно – реконструкцию его вычислительной архитектуры.

 

сегодня мы в основном понимаем и принципы работы основной подсистемы нашего мозга – неокортекса, содержащего сотни тысяч самоорганизующихся карт признаков, в которых кортикальные колонки формируют и распознают различные категории.

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 20)

Способность машин обучаться естественным языкам и свободно общаться на них – важнейший технологический барьер на пути к сильному интеллекту.

Существующие глубокие нейросети могут «понимать» значения слов и даже генерировать связные тексты, трудно отличимые от созданных человеком.

 

«мозг для XXI века будет тем же, чем ген был для XX века».

 

В последние годы в мире запущено несколько масштабных проектов по комплексному исследованию мозга:

европейский Human Brain Project (2013–2023),

американский BRAIN Initiative (2014–2025),

китайский China Brain Project (2017–2030).

 

Недаром XXI век иногда называют «веком мозга».

Однако с еще большим основанием его можно назвать и «веком искусственного интеллекта».

Судя, например, по масштабу инвестиций, гонка за искусственным интеллектом, едва начавшись, уже превосходит по ресурсам ядерную и ракетную гонки. При этом в нее вкладываются в основном не бюджетные, а частные деньги. 

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 21)

согласно McKinsey, искусственный интеллект обеспечит почти 40 % всего экономического роста в ближайшее десятилетие (и 1,2 % из 3,2 % ожидаемого годового роста мировой экономики)

Воспитание машин. Новая история разума. Сергей Шумский
(рис. 22)

в последние годы в мире сформировался платежеспособный спрос со стороны государств и частного бизнеса и на разгадку человеческого разума, и на создание искусственного.

 

Так что велика вероятность объединения усилий по этим направлениям в рамках единой исследовательской программы.

 

Рассмотрим Бизнес-модель: платформа сильного ИИ.

 

искусственная психика – это не что иное, как операционная система нового поколения для роботов.

 

Существующие ОС, скажем ROS, созданы для программирования поведения роботов.

 

С появлением искусственной психики последние обретут способность обучаться множеству самых разных навыков и осваивать десятки тысяч профессий с минимальным объемом программирования. Оно ограничится алгоритмами обучения и «врожденными рефлексами», необходимыми для эффективного обучения роботов под руководством «наставников» и «воспитателей».

 

Задачей первых будет обучение роботов профессиональным навыкам для работы по той или иной специальности, а вторых – обучение пониманию, чего люди ожидают от них в тех или иных ситуациях, то есть привитие им человеческих ценностей. 

 

Соответственно для наставников важны модульная архитектура искусственной психики и рыночная площадка для торговли такими модулями. Ситуация вполне аналогична нынешним операционным системам смартфонов с соответствующими магазинами приложений.

 

Резюме.

 

Мы определили методологию разработки сильного ИИ  – обратную инженерию архитектуры мозга – и сформулировали ее цель: создание искусственной психики в качестве будущей операционной системы роботов и программных агентов.

 

Теперь попытаемся заглянуть в будущее – как мы представляем себе переход цивилизации на новый цифровой технологический уклад, основанный во многом на технологиях ИИ.

 

Глава 6. Будущая человеко-машинная цивилизация.

 

ИИ снимает ограничение на скорость роста знаний у машин при переходе от ручного программирования к автоматическому порождению программ самими машинами за счет машинного обучения.

 Воспитание машин. Новая история разума. Сергей Шумский
(рис. 23)

в 2010-х годах вычислительные мощности компьютеров уже превзошли человеческие, но объем знаний в головах людей по-прежнему на порядки превышает объем созданного до сих пор компьютерного кода.

 

Однако с появлением машинного обучения скорость набора знаний машинами кардинально увеличивается, и в какой-то момент машинные знания неизбежно превзойдут человеческие.

 

Соответственно, мы можем разделить будущее на три этапа:

 

1● доминирование людей, пока объем наших знаний намного превышает машинные знания;

 

2● человеко-машинная цивилизация, когда вклад людей и машин сопоставим между собой;

 

3● доминирование машин, когда объем знаний машин намного превышает человеческие знания.

 

согласно опросам множества экспертов в области ИИ, медианный прогноз даты создания ИИ человеческого уровня – 2040 год, а формирования ИИ сверхчеловеческого уровня – 2060-й.

 

Возьмем эти даты в качестве некоторого ориентира, памятуя про известный принцип «мудрости толпы».

(Основной тренд: бережливая экономика).

с ростом доли развивающихся стран в мировом ВВП экономика будет становиться все более бережливой.

Удешевление основных товарных групп – главный экономический тренд ближайших десятилетий, связанный с перемещением основного объема мирового потребления из развитых стран в развивающиеся 

Воспитание машин. Новая история разума. Сергей Шумский

(рис. 24)

Экономное умное производство, энергоэффективные дома, возобновляемые источники энергии, совместное использование ресурсов (sharing economy) – все эти тенденции перехода к новому стилю жизни мы наблюдаем уже сегодня.

 

Те же Airbnb и Uber убедительно демонстрируют возможности существенного расширения рынков с одновременным снижением цены услуг.

 

Мир через 5–10 лет: слабый ИИ.

 

Самый надежный способ предсказания будущего основан на анализе уже запущенных проектов. 

Следуя этой «мудрости толпы», мы можем обрисовать ближайшее будущее на характерном горизонте венчурных проектов 5–10 лет, просто анализируя текущий рынок ИИ стартапов.

 

основная часть денег сегодня тратится на коммерциализацию существующих технологий слабого ИИ, то есть на то, чтобы сорвать «низко висящие плоды». 

в ближайшие годы мы увидим существенный рост бизнесов, использующих уже созревшие для практических приложений технологии слабого ИИ, в первую очередь машинное зрение, разговорный интеллект и рекомендательные системы.

поумнеет все наше окружение, и умные сервисы будут доступны повсеместно, даже в отсутствие привычных гаджетов.

 

Прежде всего это коснется наших домов, где умные колонки обеспечат возможность получить консультацию или сделать заказ с голоса в любой момент. 

 

Можно с уверенностью предположить, что разговорный интеллект пройдет «бытовой» тест Тьюринга, то есть ассистенты на основе такого «фасеточного» слабого ИИ смогут обеспечить вполне приемлемое качество общения по основным сценариям, умело имитируя человеческое поведение даже в отсутствие полноценной искусственной психики.

 

Если сегодня персональные ассистенты в основном помогают нам рационально тратить наши деньги, то на следующем этапе они станут помогать нам их зарабатывать. Ведь цифровые платформы – это возможность найти покупателя для любого товара, включая и наши профессиональные навыки и таланты.

 

Интернет сегодня можно уподобить глобальному виртуальному торговому центру. За 5–10 лет он превратится в глобальный виртуальный бизнес-центр.

 

Машинный перевод снимет языковые барьеры для формирования из них уникальных команд под любые задачи. Использование такими командами многочисленных специализированных ИИ-сервисов со сверхчеловеческими способностями приведет к существенному углублению уровня разделения труда. Это и будет основным источником повышения эффективности новой экономики и качества нашей жизни.

 

Получит дальнейшее развитие наметившийся тренд на автономность жилищ и локальную энергетику – пассивные дома, солнечные панели, тепловые насосы, ветрогенераторы, мини-ГЭС и различные накопители энергии.

 

человечество вскоре сможет начать тестировать новые модели расселения в живописной местности вне больших городов.

 

в ближайшее десятилетие слабый ИИ подготовит почву для сильного, создав соответствующую новому укладу инфраструктуру цифровых платформ с их способностью рационально распределять и использовать все доступные ресурсы: материальные, человеческие и машинные.

Сильный ИИ сможет значительно увеличить эти ресурсы за счет создания новой трудовой армии роботов.

 

Мир через 10–20 лет: ИИ человеческого уровня.

 

Главное содержание следующего этапа – широкого внедрения в нашу жизнь разумных роботов – мы связываем с появлением у них искусственной психики, то есть с технологией сильного ИИ.

 

Появление операционной системы роботов, основанной на искусственной психике, ознаменует начало массовой робототехники, замену людей роботами с передачей последним всех человеческих знаний, навыков и ценностей.

Это и станет основным содержанием рассматриваемого этапа – становления человеко-машинной цивилизации.

Условно говоря, в экономике вместе с 10 млрд человек будут действовать 100 млрд и более искусственных личностей.

 

наши персональные ассистенты, обретя свою собственную психику, станут гораздо более самостоятельными и креативными. Они смогут понимать нас и наши мотивы гораздо глубже. Соответственно, им можно будет перепоручить представление наших интересов в цифровом мире, ведение переговоров от нашего лица с такими же агентами других людей.

мы сможем «повысить» их с должности секретаря-ассистента до роли поверенного с определенными полномочиями.

 (рис. 26)

Резюме.

мы крупными штрихами набросали примерную картину будущего – какой она видится сегодня, при современном уровне наших знаний в области ИИ.

 

Самое удивительное в этой картине – насколько быстро сжимается время, отпущенное нам в формате привычной нам жизни, как разительно мир наших внуков будет отличаться от нашего, насколько их жизненные задачи и возможности будут отличны от наших.

 

в заключение еще раз напомню внутреннюю логику наших рассуждений – как мы пришли к столь неожиданным для многих выводам.

 

компьютеры обретают способность к самопрограммированию.

Открывается путь к созданию базовой технологии нового уклада – искусственного интеллекта.

эффективность мировой экономики сможет подняться на новый уровень за счет перехода от массового производства к экономике «длинного хвоста» продуктов и услуг, нацеленных на индивидуальные потребности.

 

Но, необходимо создание искусственной психики роботов, архитектурно как можно более близкой к человеческой со встроенными общественными инстинктами.

Это возвращает нас к исходной цели разработки ИИ: более глубокое понимание человеческого разума путем создания все более сложных действующих моделей искусственного разума. 

 

В ближайшие годы будут внедряться и развиваться существующие технологии глубокого обучения. Затем произойдет большой скачок, связанный с появлением роботов с искусственной психикой.

 

Начнется период воспитания в роботах человеческой системы ценностей в рамках единой человеко-машинной цивилизации.

 

В какой-то момент лет через 20–40 машинная компонента вырвется вперед, и долгосрочное планирование развития цивилизации перейдет под контроль искусственных стратегов.

 

Однако если все будет хорошо, управление обществом будет по-прежнему определяться человеческими ценностями, унаследованными машинным разумом.

 

Таким образом, отдаленное будущее человечества будет зависеть от того, какими ценностями в жизни будут руководствоваться наши дети и внуки, то есть во многом – и от нас с вами.

 

 

 

 

 

 

 

 

 

 

 

★1
2 комментария
По моему мнению сильный исскуственный интеллект возможен только с использованием квантовых вычислений. Так что пока сроки трудно предсказать, Скажем так — после появления бытовых квантовый вычислений думаю понадобится не более 10 лет.
если ИИ сможет самообучаться, то квантовые вычисления не так уж и нужны

теги блога Андрей Колесников

....все тэги



UPDONW