Андрей Колесников
Андрей Колесников личный блог
02 марта 2021, 18:48

Жизнь 3.0: что значит быть человеком в эпоху искусственного интеллекта.

Жизнь 3.0: что значит быть человеком в эпоху искусственного интеллекта.
Электронная книга https://t.me/kudaidem/1958


Автор: Макс Тэгмарк.Life 3.0: Being Human in the Age of Artificial Intelligence 

Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта” – увлекательная научно-популярная книга,  Макса Тегмарка, физика и космолога, профессора Массачусетского технологического института. В ней он рассматривает возможные сценарии развития событий в случае появления на Земле сверхразумного искусственного интеллекта, анализирует все плюсы и минусы и призывает специалистов объединить свои усилия в борьбе за кибербезопасность и “дружественный” искусственный интеллект.

 

В книге «Жизнь 3.0» Макс Тегмарк описывает прорывные достижения в области искусственного интеллекта и объясняет, в чем машина может превзойти человека. Уже сегодня новые технологии влияют на преступность, ведение войн, правосудие, занятость и даже человеческие чувства. Профессор Массачусетского технологического института размышляет, достижимо ли процветание человечества с помощью автоматизации? Следует ли нам опасаться гонки вооружений в сфере смертоносного автономного оружия? Способны ли машины заменить человека? Книга дает возможность приобщиться к важнейшей дискуссии нашего времени. Автор рассматривает все точки зрения и не уклоняется от самых спорных вопросов: способен ли человек справиться с искусственным интеллектом и каковы наши шансы на мирное сосуществование с разумными машинами.

Три причины прочитать:

  • Понять, какие профессии будут востребованными и какие уйдут в прошлое, чтобы правильно сориентировать своих детей.
  • Узнать, почему в ближайшем будущем захват власти машинами невозможен.
  • Ознакомиться со всеми возможными сценариями новой жизни человечества в долгосрочной перспективе.

Никто точно не знает, что именно произойдет, когда искусственный интеллект полностью превзойдет биологический разум, научится самостоятельно программировать себя и создавать другие формы разума. 

Новая эра не за горами.

Машины научились думать и общаться почти как люди. Они самообучаются, распознают человеческую речь, решают сложные задачи.

Общение с чат-ботами не отличается от онлайн-разговоров с живыми людьми.

Однако до сих пор искусственный интеллект находился на службе у человека и под его контролем. 

Макс Тэгмарк, профессор физики в MIT и президент Института жизни будущего, пришел к выводу, что эра искусственного интеллекта — это лишь новая ступень развития мира и человечества

Это наше будущее, и мы можем им управлять.

Автор рассматривает разнообразные сценарии развития событий, от реалистичных до утопических.

«Жизнь 3.0» Макса Тэгмарка нейтральна и научно обоснована.

Самым критичным Макс считает наш собственный осознанный выбор — каким именно мы хотим видеть свое будущее, какой именно объем задач и операций хотим передать этой новой форме разума, как именно собираемся сохранить контроль за ней и своей жизнью.

Это гораздо более практические и конструктивные вопросы, нежели попытки остановить прогресс путем истерических криков и проповедования утопий.

 

(1. Три формы жизни)

Жизнь в широком понимании — это самовоспроизводящаяся система обработки информации.

От этой информации (программного обеспечения) зависит как ход жизни, так и ее конструкция. Как Вселенная становилась все сложнее после большого взрыва, так и зародившаяся в ней жизнь становится все более сложной и интересной. 

У жизни есть три формы или уровня сложности: жизнь 1.0, жизнь 2.0 и жизнь 3.0, которые автор разделяет по признакам способности носителя жизни изменять свою программу (прошивку) и конструкцию.


Жизнь 1.0 (биологическая эволюция).

 

Жизнь в версии 1.0 не способна изменить свою программу или конструкцию. Все изменения происходят только в результате эволюции.

В результате естественного отбора выжили самые приспособленные.

Они собирали информацию о внешнем мире с помощью сенсоров, обрабатывали ее и вели себя определенным (выгодным для себя) образом. 

У многих бактерий есть сенсор, который определяет концентрацию сахара в жидкости. К тому же бактерии умеют плавать при помощи жгутика, по форме напоминающего пропеллер.

Оборудование, включающее сенсор и жгутик, действует следующим образом: если сенсор сигнализирует о том, что уровень сахара стал ниже, чем несколько секунд назад, жгутик начинает крутиться, и направление движения бактерии меняется.

Бактериям не нужно учиться плавать или измерять содержание сахара в воде. Их строение и программа деятельности заложены в ДНК и не меняются весь период жизни бактерии.

И форма жгутика, и чувствительность к сахару, и алгоритм поведения — результат долгих эволюционных изменений. 


1.2. Жизнь 2.0 (культурная эволюция).

 

Жизнь 2.0 способна производить редизайн своего программного обеспечения.

Эта форма жизни появилась около 100 тысяч лет назад, с возникновением человечества.

Люди могут меняться изнутри: изучать иностранные языки, осваивать новые навыки, шутить, менять взгляды.

 Программное обеспечение человека формируется в процессе обучения.

Жизнь 2.0 совершеннее, гибче и разнообразнее жизни 1.0. Бактерии не способны обучаться и менять поведение.

Резистентность бактерии к антибиотику вырабатывается в течение многих поколений — бактерия не может защититься от антибиотика, а ребенок, у которого однажды случился приступ аллергии, сразу изменит поведение: он больше не станет есть мед или орехи.

 

Именно гибкость позволила жизни 2.0 доминировать на Земле. 

Человеческий коллективный разум освободился от генетических ограничений и стал развиваться с нарастающей скоростью: язык, письменность, наука, компьютеры, интернет… 

 

Современных людей можно назвать формой жизни 2.1 — мы научились немного менять свою конструкцию, например, вставлять искусственные зубы и суставы, но до сих пор не умеем вносить существенные изменения: не знаем, как увеличить мозг в несколько раз или стать ростом с многоэтажный дом. 


Жизнь 3.0 (технологическая эволюция).

 

Жизнь 3.0 пока еще не существует на нашей планете.

Но она появится в ближайшие десятилетия или столетия, возможно, еще при нашей жизни.

Эта новая форма жизни не будет ждать эволюционных изменений, а сможет самостоятельно менять как свою программу, так и конструкцию. 

 

Несмотря на все имеющиеся у человечества знания, открытия и технологии, наша жизнь все еще ограничена нашей биологической конструкцией. 

 

Мы не можем жить тысячу лет, помнить всю информацию из Википедии, разбираться во всех научных областях и летать в космос, когда вздумается, без космического корабля. 

Исследователи искусственного интеллекта дают разные прогнозы относительно возникновения сверхразума, которые отличаются не только по сути, но и по эмоциональным реакциям — от уверенного оптимизма до озабоченности, граничащей с паникой


2.1. Распространенные мифы.

Основные вопросы, по которым разгораются ожесточенные споры — «Когда наступит жизнь 3.0?», «Что именно произойдет?» и «Чем это обернется для человечества?». Все эти вопросы связаны с противоречивыми мифами.

Миф: Сверхразум неизбежно появится до 2100 г. и противоположное мнение: Сверхразум не может возникнуть до 2100 г.

Факт: Это может случиться через несколько десятилетий, веков или не случиться никогда. Эксперты расходятся во мнениях.

Миф: Искусственный интеллект — это зло.

Миф напротив: Искусственный интеллект будет обладать здравым смыслом.

Факт:  Искусственный интеллект становится все более компетентным и самостоятельным.

Миф: Главная опасность — это роботы.

Факт: Искусственному интеллекту не нужна физическая оболочка — он неосязаем.

Миф: Искусственный интеллект не сможет контролировать людей.

Факт: Более мощный интеллект контролирует более слабый. Люди контролируют тигров, несмотря на то, что тигры сильнее и быстрее.

Миф: У машин нет целей.

Факт: У ракеты с тепловой системой самонаведения есть цель.

Миф: Сверхразум уже близко (паника).

Факт: До эпохи сверхразума еще по меньшей мере несколько десятилетий, но готовиться к ней надо уже сейчас.

 

 

Миф

Факт

Сверхразум неизбежно появится до 2100 г.

Это может случиться через несколько десятилетий, веков или не случиться никогда. Эксперты расходятся во мнениях.

Сверхразум не может возникнуть до 2100 г.

Искусственный интеллект — это зло.

Искусственный интеллект становится все более компетентным и самостоятельным.

Искусственный интеллект будет обладать здравым смыслом.

Главная опасность — это роботы.

Искусственному интеллекту не нужна физическая оболочка — он неосязаем.

Искусственный интеллект не сможет контролировать людей.

Более мощный интеллект контролирует более слабый. Люди контролируют тигров, несмотря на то, что тигры сильнее и быстрее.

У машин нет целей.

У ракеты с тепловой системой самонаведения есть цель.

Сверхразум уже близко (паника).

До эпохи сверхразума еще по меньшей мере несколько десятилетий, но готовиться к ней надо уже сейчас.

 

 (Безопасный искусственный интеллект).

Все, что нам дорого в жизни, — продукт человеческого разума. Но наша жизнь может стать еще качественнее и разнообразнее с помощью искусственного интеллекта.

Информационные технологии уже оказали позитивное влияние на все сферы человеческой жизни, от медицины и образования до энергетики и финансов, но чем больше мы полагаемся на искусственный интеллект, тем больше мы беспокоимся о том, будет ли он действовать в наших интересах. 

Обычно мы учимся на ошибках. 

Люди научились добывать огонь, из-за которого часто случались пожары, поэтому пришлось создать огнетушитель, пожарный выход и пожарную сигнализацию.

Мы изобрели автомобили, которые часто попадали в аварии, и возникла необходимость в подушках и ремнях безопасности.

Однако в случае с искусственным интеллектом цена ошибки может оказаться слишком высокой, даже фатальной.

Чем более мощными становятся технологии, тем меньше мы должны полагаться на метод проб и ошибок. 

 

Программные ошибки и неполадки в сетях случались и прежде, но уже сегодня искусственный интеллект вышел за пределы компьютерной сферы — из-за ошибок в программе может рухнуть фондовый рынок и разразиться ядерная катастрофа.

 

Ввод в эксплуатацию оборудования с применением искусственного интеллекта должен происходить в четыре этапа: верификация, подтверждение, обеспечение надежности и контроль. 


2.3. Экономика будущего.

 

Экономика изменится. Мы сможем получать бесплатно все, что необходимо для жизни. 

Уже сегодня в Канаде, Финляндии и Голландии проводятся эксперименты по предоставлению гражданам гарантированного базового дохода, и общественные деятели во многих странах заявляют, что идея разделения богатств актуальна уже сегодня, когда растет пропасть между богатыми и бедными.

 

В будущем немногие из нас будут работать, и уровень безработицы будет высоким, как никогда раньше.

 

Будут востребованы профессии, в которых важны креативность, развитые социальные навыки и умение работать в меняющихся условиях. 

 

А там, где нужны структурированные, повторяющиеся действия и точные вычисления, машины уже сейчас эффективнее людей.

 

Перспективными будут профессии социального работника, психолога, врача, массажиста и учителя.

А машинистов, кассиров и пекарей в скором времени заменят роботы.

Однако общество, где будет много безработных, может быть вполне преуспевающим, если люди научатся находить радость не только в карьере, деньгах и положении в обществе, но и в социальных связях, здоровом образе жизни, учебе, хобби, принятии собственных особенностей, ощущении себя частью важного целого. 

 

2.4. Законы будущего.

В процессе подготовки к жизни 3.0 нужно адаптировать законодательство к присутствию искусственного интеллекта во всех сферах жизни. Особое внимание стоит уделить вопросам неприкосновенности частной жизни, финансовым обязательствам и нормативным актам, связанным с собственностью.

В правоохранительных и судебных органах искусственный интеллект будет способствовать улучшению раскрываемости преступлений. 

Роботы-оперативники не пропустят ни единой улики, а робосудьи будут беспристрастными и неподкупными.

3. Какой будет жизнь 3.0.

Вариантов жизни 3.0 великое множество: от неожиданного возникновения мощного сверхразума, который сможет сделать с миром что угодно, до постепенного перехода на новый уровень, где искусственный интеллект может быть с людьми на равных, служить им и даже уничтожить или подчинить их себе.

Не исключена вероятность того, что сверхразум никогда не будет создан, потому что люди

откажутся от научно-технического прогресса или уничтожат себя сами. 

3.1. Большой взрыв искусственного интеллекта.

Внезапный захват мира сверхразумом невозможен в ближайшем будущем, потому что этому захвату должны предшествовать по крайней мере два этапа.

• Создание общего искусственного интеллекта. 

 

Искусственного разума, который не уступает человеческому по всем параметрам. По оптимистичным прогнозам, он появится в 2047—2055 гг., но некоторые ученые считают, что это утопия, и искусственный интеллект может превосходить человека только в отдельных областях — лучше закручивать гайки или возводить в степень десятизначные числа. 

 

• Использование общего искусственного интеллекта для создания сверхразума. 

Только после создания сверхразума человек может позволить (или не позволить) ему захватить мир.

Однако в обозримом будущем человек — хозяин положения. И именно человек может задать направление дальнейшего развития искусственного интеллекта и будущего планеты в целом.


3.2. Сценарии новой жизни в долгосрочной перспективе.

Вот наиболее вероятные варианты жизни 3.0.

• Либеральная утопия — люди, киборги и любые разновидности суперразума мирно сосуществуют благодаря четко прописанному в законах имущественному праву.

 

• Великодушный диктатор — люди знают, что обществом управляет искусственный интеллект, но их это устраивает.

 

• Утопия всеобщего равенства — люди, киборги и суперразум мирно сосуществуют благодаря отсутствию частной собственности и гарантированным выплатам.

 

• Привратник — этот сверхразум создавался с целью предотвращения создания другого сверхразума. В этом сценарии существуют роботы и различные формы искусственного интеллекта, которые помогают человеку, но технологический прогресс остановился.

 

• Бог-защитник — всевластный разум, который следит, чтобы люди были счастливы, и незаметно им помогает, когда это действительно необходимо. Большинство людей даже не подозревают о его существовании.

 

• Порабощенный бог — искусственный интеллект, полностью подвластный людям, которые заставляют его работать на себя, создавать новые блага и технологии. Эти люди могут использовать искусственный интеллект во зло и во благо других людей. 

 

• Победитель — искусственный интеллект решает, что люди не нужны, опасны или бесполезны. Такой суперразум быстро избавится от нас каким-нибудь изощренным методом.

 

• Наследник — искусственный интеллект заменит людей, но мы не будем против — мы будем воспринимать его как своего преемника. Это ребенок, который умнее и лучше родителей, но родители им гордятся, даже если не могут быть свидетелями его невероятных достижений.

 

• Директор зоопарка — всесильный разум, который оставляет в живых некоторое количество людей, покорных повелителю.

 

• 1984 — все, как в романе Оруэлла: технологический прогресс остановлен навсегда, сверхразум не создан, потому что в полицейском государстве, управляемом людьми, исследования в области искусственного интеллекта полностью запрещены.

 

• Возвращение — искусственная остановка технологического процесса и возвращение в дотехнологическую эпоху.

 

• Саморазрушение — сверхразум так и не появился, потому что его некому было создавать — люди вымерли вследствие ядерной или биотехнологической катастрофы.


3.3. Цели искусственного интеллекта.

Помимо сроков и сценариев ученые спорят о целях искусственного разума. В связи с эти возникают многочисленные вопросы.

• Должны ли мы ставить цели перед искусственным интеллектом? 

Одна из характеристик разума — это способность достигать сложных целей, а значит, у искусственного интеллекта тоже будут цели, которые перед ним поставит человек.

В противном случае он сформулирует их сам.

Мы создаем все более разумные машины, чтобы они помогали нам достигать наших целей. То есть цели искусственного разума должны соотноситься с нашими целями.

• Какие именно цели нужно ставить? 

Прежде всего, цели должны быть этичными и соответствовать следующим этическим принципам.

— Прагматизм: в будущем должен преобладать позитивный сознательный опыт, а страданий должно быть как можно меньше.

Это справедливо не только для людей, но и для животных, а также для всех видов искусственного интеллекта, которые будут существовать в будущем.

 

— Разнообразие: разнообразные позитивные ощущения лучше, чем многократное повторение самого позитивного ощущения. 

 

— Автономность: сознательные сообщества должны иметь возможность ставить собственные цели, но только если они не идут вразрез с общими целями.

 

За образец общих целей можно взять права и свободы, провозглашенные в 1948 году во всеобщей декларации прав человека ООН: свободу мыслей, слова и передвижения, свободу от рабства и мучений, право на жизнь, свободу и безопасность, образование, брак, работу и частную собственность.

 

— Преемственность: совместимость со сценарием, который большинство людей сегодня считают приемлемым, и отказ от сценария, который большинство людей считают неприемлемым. Сейчас самое время продумать этот сценарий

 

• Каким образом мы можем внушить эти цели искусственному интеллекту и можем ли мы быть уверены, что сверхразум будет следовать нашим целям? 

Проблема в том, как кодифицировать приведенные выше этические принципы для искусственного интеллекта. Он должен их распознавать, правильно воспринимать и не менять их без разрешения человека. Необходимо заняться разработкой кодов уже сейчас.

 

3.4. Homo sentiens / Человек чувствующий.

Люди тысячи лет живут с чувством собственной исключительности, потому что мы — единственные полностью разумные существа на Земле.

И это ощущение превосходства homo sapiens не привело ни к чему хорошему: мы разрушили природные богатства, уничтожили много видов диких животных и неоднократно массово истребляли других людей.

Однако совсем скоро появится общий искусственный интеллект, который превзойдет нас по всем параметрам. И с этим стоит смириться и позволить другим существам или формам разума быть умнее нас. Это вовсе не значит, что мы станем гражданами второго сорта и подчинимся более высокому разуму, если сами этого не захотим. 

Уже сегодня стоит задуматься о том, чтобы не быть рабами машин — например, не проводить много времени со смартфоном.

Возможно, век разума позади, а впереди век чувств. Если мы научимся находить радость жизни не в карьере, знаниях и деньгах, а в позитивных ощущениях, общении с другими людьми и формами разума, вероятно, мы станем новым видом — человеком чувствующим. 


3.5. Будет ли искусственный интеллект осознанным? 

Говоря об искусственном интеллекте, мы обычно имеем в виду исключительно технические характеристики. Однако он становится все совершеннее, и, возможно, со временем сможет не только обрабатывать информацию, но и испытывать субъективные ощущения и приобретать опыт, то есть станет осознанным, если мы ему позволим.

С одной стороны, люди не хотят, чтобы роботы страдали и болели, чтобы не чувствовать себя рабовладельцами.

С другой стороны, все этические принципы, рассмотренные выше, теряют смысл, если искусственный разум не способен чувствовать. Кроме того, человеку чувствующему непросто будет взаимодействовать с «бесчувственным» разумом, который сможет причинить зло, не ведая, что творит.


3.6. Ваше персональное будущее.

Давайте представим, что прошло 50, 100 или 500 лет и наступила жизнь 3.0.

Какой она будет, во многом зависит от наших ожиданий и действий.

Ответьте на 5 вопросов, чтобы понять, какого будущего вы ждете для себя и потомков

• Хотите ли вы, чтобы в будущем присутствовал сверхразум?
• Кто будет главным, машины или люди?
• Будет ли в будущем больше радости и меньше страданий или пусть все останется без изменений?
• Будет ли существовать жизнь в космосе?
• Хотите ли вы, чтобы цивилизация стремилась к более высоким целям или это неважно?

Заключение.

Сегодня мы живем в версии жизни 2.0, которая появилась около 100 тысяч лет назад.

Предыдущая версия, жизнь 1.0, возникла 4 миллиона лет назад и была неспособна менять ни свою программу, ни свою конструкцию.

Мы улучшаем свой программный код — осваиваем новые навыки, меняем взгляды. Однако не за горами новая форма жизни — 3.0, в которой будет возможно изменение как программного кода, так и оболочки (или ее полное отсутствие). 

Среди ученых и простых обывателей не утихают споры о времени возникновения искусственного сверхразума, о том, как именно он появится и как это отразится на людях. Эти споры порождают противоречивые мифы. Очевидно одно: искусственный интеллект может значительно улучшить нашу жизнь — при условии, что мы не будем торопиться вводить новые устройства на его основе в эксплуатацию. Сначала их нужно верифицировать, подтвердить, обеспечить надежность и контролировать их работу. Цена ошибки слишком высока.

В будущем людям не нужно будет работать. Они смогут получать гарантированный базовый доход. Профессии, в основе которых лежат повторяющиеся действия и точные вычисления, канут в лету. Но для гибких, креативных людей с развитыми социальными навыками работа найдется.

Самый распространенный миф, касающийся искусственного интеллекта — возможность стихийного захвата планеты сверхразумом. Это невозможно в ближайшем будущем, потому что сначала нужно создать общий искусственный интеллект, затем с его помощью — сверхразум, который впоследствии, возможно, захватит мир. 

Однако со временем жизнь изменится, и вероятны разные сценарии, от утопического равенства человека и искусственного интеллекта до трагедии, связанной с самоуничтожением человечества или его уничтожения искусственным интеллектом.

Чтобы избежать трагедии, важно, чтобы цели искусственного разума совпадали с целями людей и были этичными. И уже сегодня нужно разрабатывать коды, которые позволят разъяснить искусственному интеллекту этические принципы.

Нам не стоит бояться, что искусственный интеллект превзойдет человеческий. Это неизбежно — во многих областях он уже впереди. Вероятно, пришло время перестать гордиться интеллектуальным превосходством, а обратить внимание на духовную и эмоциональную жизнь, превратиться из человека разумного в человека чувствующего. Возможно, искусственный разум тоже со временем научится испытывать субъективные ощущения, и они с человеком будут лучше понимать друг друга.

Мир изменится. Это неизбежно.

Но то, каким он будет, во многом зависит от нас, поэтому не стоит прятать голову в песок, нужно честно признаться себе, каким мы хотим видеть свое будущее, и приложить усилия, чтобы оно стало именно таким.

Об авторе

Макс Тегмарк — шведско-американский космолог и астрофизик, профессор Массачусетского технологического института. По окончании Королевского технологического института в Стокгольме разрабатывал космологические модели. Сформулировал «Окончательную теорию всего», которая гласит: «Все математически непротиворечивые структуры существуют физически». Разработал и применил инструменты анализа данных к реликтовому излучению. Основатель и научный директор Института основополагающих вопросов (FQXi).

 

 

3 Комментария
  • товарищ масон
    02 марта 2021, 19:47
    оч. интересно
    жаль только что этого никогда не будет
    даже развитой технологической цивилизации
    лет 50 ещё — и грядёт частичная перезагрузка всей планеты
    50 это примерно. не нужно ждать точной цифры
      • товарищ масон
        02 марта 2021, 23:11
        Андрей Колесников, 
        а ничего не будет.
        если кратко — планету каждые 250 лет примерно основательно ушатывают метеориты.
        время на подходе и защиты никакой нет и не бывает.
        насколько серъёзным будет ущерб в этот раз — мне неведомо.
        в прошлый заход ушатало часть азии, часть африки, часть америки.россию — краем прошло.
        что было 500 лет назад — мне сказать ещё сложнее — данных ничтожно мало.
        просьба не ссылаться на учебники истории. выкиньте их в мусорное ведро. все. до единого

Активные форумы
Что сейчас обсуждают

Старый дизайн
Старый
дизайн