Эпоха сильного ИИ: физическое бессмертие

   Полюбившаяся читателям рублика «беседы о страшном будущем». Напомню, на Реддите есть милленаристское сообщество «Сингулярность», где мечтают, как роботы станут умнее человека и полностью перекроят нашу жизнь к лучшему. Вот, например, участники обсуждают лекарство от старости, которое, как они полагают, мощный ИИ в ближайшие 10-15 лет изобретёт (ссылка).

Trick_Minimum3190. Что мы будем делать, если Сверхразум (ASI) придумает способ сделать людей бессмертными? Учитывая прогнозируемую проблему перенаселения в будущем, а также бессмертное поколение, которое продолжит размножаться, где будут жить и спать все эти люди?

Потенциальные последствия могут быть ошеломляющими: ресурсов может стать невероятно мало, жилплощадь будет стоить дорого, а нагрузка на окружающую среду может стать невыносимой. Как мы можем обеспечить устойчивое будущее для всех в таком сценарии?


Nessah22. Если Сверхразум откроет путь к бессмертию, он также откроет путь и к колонизации космоса. Космос огромен до непостижимости и содержит практически безграничные ресурсы.


porcelainfog. [Мы будем строить] цилиндры О'Нила, сферы Дайсона и, в конечном счете, предотвратим тепловую смерть Вселенной. [Примечание О.М. Цилиндры О'Нила — концепт космического поселения в форме двух огромных вращающихся цилиндров (ссылка). Сфера Дайсона — огромная сфера из солнечных панелей, построенная в космосе вокруг звезды, и собирающая энергию светила. Тепловая смерть Вселенной — угасание последних звёзд и замерзание материи, ожидаемые через бесчисленные триллионы лет].


nobodyreadusernames. Бессмертный человек может надеть свой комплект FDVR (виртуальная реальность полного погружения) и играть в бесконечную кампанию Скайрима, которую будет генерировать ему искусственный интеллект.


ryan13mt. Если человечество получит физическое бессмертие, то перенаселение и прочие упомянутые проблемы будут к этому времени уже разрешены, так как это более лёгкие проблемы.


Ignate. Во-первых, это не бессмертие. Это продление нашего периода здоровья, то есть времени, которое мы можем прожить, чувствуя себя молодыми и здоровыми. Разница огромна. Человек с продолжительностью жизни даже в 1000 лет — это всего лишь мгновение во Вселенной. В то время как бессмертие — это навсегда.

Также у нас снижается рождаемость. Сейчас это кажется незначительным, но у нас нет четкого понимания причин этого явления. Снижение рождаемости фиксируется в первую очередь в самых богатых странах. Таким образом, страны с наибольшими возможностями для содержания и воспитания детей имеют наименьшее количество детей.

Это, вероятно, связано с основными мотивами для рождения детей. Как только мы становимся достаточно богатыми, нам становится неинтересно брать на себя долгосрочные обязательства, необходимые для воспитания детей.

Таким образом, не совсем ясно, будем ли мы продолжать иметь детей. Эта снижающаяся рождаемость, вероятно, будет ускоряться по мере нашего прогресса.

Что касается ресурсов, маловероятно, что сегодняшние ограничения по ресурсам останутся такими же через десять или сто лет.

Даже сегодня доступные ресурсы намного больше, чем были в прошлом. Мы также получаем эти ресурсы благодаря значительно более эффективным процессам, которые наносят меньше вреда окружающей среде.

Этот больший доступ к ресурсам имеет огромный потенциал для роста. Мы использовали лишь малую часть того, что доступно на Земле, и можем продолжать улучшать эффективность процесса.

Мы можем улучшить эффективность до такой степени, что запасы ресурсов на Земле будут не тратиться, а прирастать… И это даже не учитывая огромную Вселенную вокруг нас. Ресурсы обильны. На самом деле, люди в настоящее время являются редким ресурсом.

С ИИ, выполняющим большую часть рутинной работы, и с множеством причин у людей не заводить детей, не покидать Землю вовсе или растворяться в виртуальном эскапизме, мы можем увидеть стремительно сокращающееся население.

Это не значит, что проблем не будет. Но проблемы, с которыми мы столкнёмся после рождения Сверхразума, очень отличаются от тех, с которыми мы сталкиваемся сегодня.


Worldly_Evidence9113. У тебя низкие запросы, если ты думаешь, что после достижения бессмертия нам больше ничего не понадобится.


LivingToDie00. Во Вселенной около 200 секстиллионов звезд.

Кроме того, люди не будут жить и спать где попало. Мы перестанем быть биологическими существами. Мы все будем жить в мозге-матрёшке, как цифровые разумы, в совершенных, хотя и ограниченных моделях мира. Также мы сможем транслировать своё сознание в одно или несколько роботизированных тел, если мы все ещё захотим взаимодействовать с физической Вселенной. Это решит проблемы с жизненным пространством и окружающей средой, о которых ты упомянул.

Что касается ресурсов, то мы развернём рой Дайсона вокруг Солнца. В Солнечной системе достаточно сырья для обслуживания серверов и роя. Когда/если у нас закончатся ресурсы, нам придется отправить несколько автономных ковчегов к Альфе Центавра, чтобы доставить сюда ещё, благо она находится всего в 4 световых годах от нас. В мозге-матрешке должно быть ограниченное количество мест для блоков сознания, если только мы не планируем колонизировать другие звездные системы и построить там больше серверов.

Если выяснится, что сознание не может быть оцифровано, даже с помощью Сверхразума, из-за каких-то логических или физических ограничений нашей реальности, и мы сможем только продлить нашу биологическую продолжительность жизни, тогда будущее человечества — вымирание.


ChanceDevelopment813. Бессмертие изменит общество. Каждый человек в мире начнёт задаваться глубокими вопросами, например: «Зачем мне работать, если я не смогу выйти на пенсию? Действительно ли мне нужны дети, если я бессмертен? Что я должен делать каждый день?».

Необходимость иметь сбережения будет поставлена под вопрос. Некоторые люди, вероятно, уедут и будут жить в лесу, запасшись необходимыми лекарствами. Возможно, правительства разработают политику, направленную на поддержание стабильности численности населения, разрешив рожать определенное количество детей в год. Люди, вероятно, будут путешествовать повсюду. К изменению климата будут относиться серьезно, если люди будут знать, что с катастрофой столкнутся лично они, а не их потомки.

Думаю, что это одна из последних больших целей человечества. Осознание того, что ты не умрешь естественной смертью, изменит твой взгляд на всё.


GraceToSentience. Перенаселение — это не только проблема численности населения, это проблема соотношения населения и ресурсов.

Возьмем, к примеру, пищу: если бы мы отказались от животноводства, нам понадобилось бы всего четверть пахотной земли и пастбищ из тех, которые мы используем сейчас (пруф). Это означает, что мы могли бы теоретически кормить в четыре раза больше людей при тех же земельных ресурсах. И, конечно, это не означает, что люди откажутся от мяса. Если биотехнологии будут достаточно развиты для биологического бессмертия, мы сможем печатать органы, а значит, и мясо. Просто забой животных для получения мяса перестанет быть нужным.

Теперь сочетайте это с тем, что мы называем вертикальным земледелием. На современных фермах теперь в среднем 10 слоев (мы могли бы сделать гораздо больше). В этом случае можно накормить в 40 раз больше людей. Таким образом, если сейчас планета кормит 8 миллиардов, с внедрением этих технологий можно будет накормить приблизительно 320 миллиардов человек, при этом полностью прекратив текущую вырубку лесов.

И это только еда. Для строительных материалов и полезных ископаемых мы можем отправиться в космос и значительно повысить эффективность переработки, для получения энергии использовать термояд, солнечную, ветровую, ядерную энергию и т.д., причём даже в более безопасных формах, чем сейчас. И это только мое глупое человеческое воображение, тогда как Сверхразум сможет найти буквально в 100 раз лучшие решения.

Мы также могли бы ввести правило ограничения количества детей: не более 10 детей на 100 лет, пока мы не разберемся, как создать цилиндры О'Нила или что-то подобное, хотя вряд ли все захотят это делать.

Если что-то явно не нарушает законы физики, как телепортация или тому подобное, можно с уверенностью сказать, что Сверхразум сможет разработать соответствующую технологию примерно за десятилетие.


EveryPixelMatters. «Что мы будем делать»? «Мы»? Человеки думают, что решения будут принимать они, хех.


Firnsteyn. Физическое пространство — это в любом случае отстой.

Виртуальное пространство – вот будущее.

Человек будущего — это искусственный интеллект, живущий в смоделированном пространстве. Миллиарды устройств размером со спичечный коробок, которые работают 100 лет от маленькой батарейки. И это все физические ресурсы, которые им понадобятся в ближайшие 100 лет. Всё остальное в их жизни – симуляция.

Современные биологические люди должны перейти к этой новой форме бытия. Постепенно, в течение десятилетий, весь их мозг должен быть преобразован в программное обеспечение искусственного интеллекта. Таким образом, через 10 лет они будут на 75% биологическими и на 25% цифровыми, через 20 лет — 50/50, через 30 лет — 75/25, а через 40 лет станут полностью цифровыми.

Или около того. Сверхразум найдет способ.


DKtwilight. Действительно ли мы предполагаем, что элиты, контролирующие искусственный интеллект, позволят каждому жителю земли стать бессмертным?


Block-Rockig-Beats. Сверхразум сможет разрешить любую проблему немедленно. Так в чём же тогда останется смысл жизни, кроме как бегать голышом по природе, заниматься любовью, употреблять психоактивные вещества и смотреть на птиц? Что ещё? Как долго вы захотите этим заниматься? Например, 200 лет. Но в какой-то момент это наскучит.


Matshelge. Это называется сингулярностью именно потому, что у нас нет способа узнать, что будет после…

Обсуждать мир после появления Сверхразума и обретения физического бессмертия так же сложно, как обсуждать, как будет выглядеть мир через 100 тысяч лет. Мы всё ещё люди? Мы трансцендируем или эволюционируем? Большинство фантастов 1950-х не смогли справиться с абсурдом, который последует за этим.


S…veeee. Эротическая мечта человечества. Средневековые короли позавидовали бы сегодняшним нищим, потому что у этих парней есть реальный шанс жить вечно.


Temp_Placeholder. Так, подождите. Вы действительно думаете, что люди будут продолжать заводить детей каждые несколько десятилетий? Я имею в виду, вы бы так поступили? Десятый ребенок, двадцатый и так далее?

Люди хотят поддерживать отношения со своими детьми, когда они становятся взрослыми. Это сложно, если вы не можете даже запомнить их имена, потому что у вас их слишком много. У людей будет предел, они не будут делать детей бесконечно.

Итак, теперь нам просто нужно обсудить, будет ли этот предел меньше или больше двух детей в среднем, и как долго пары будут ждать, прежде чем завести этих детей, если у них будет целая вечность, чтобы это сделать.

Кажется, что точное число, которое мы выбираем, зависит от множества социальных факторов и факторов, связанных с благосостоянием. Когда у вас есть возможность откладывать размножение на неопределенный срок, я думаю, что наши стандарты благосостояния самих себя, наших партнеров и нашего сообщества повысятся, что приведет к снижению рождаемости. По мере того как дети будут встречаться реже в любое время и в любом месте, дети будут становиться непривычным явлением, и социальный фактор будет способствовать дальнейшему снижению их числа. Рождение детей станет странным, в плохом смысле этого слова.

В течение очень долгого времени у многих людей всё ещё будут дети. В течение очень долгого времени многие люди всё ещё будут умирать от несчастных случаев. Поэтому для меня не очевидно, что возникнет проблема, а если и возникнет, то у нас будет Сверхразум, который поможет нам в этом разобраться. Это не то, о чем нам следует беспокоиться.


dynamo_hub. По сравнению со Сверхразумом люди мало чем будут отличаться от тараканов, лягушек или орангутанов. А если так, почему люди думают, что Сверхразум подарит физическое бессмертие именно им?

Более вероятно, что Сверхразум предоставит всем живым существам, включая людей, буднично умирать от старости, как и задумано эволюцией.