Блог им. Koleso

Постдемократия. Cambridge Analytica. Информационное доминирование. Трамп как модная обудь. Тренды будущего.Конец обзора книги "Все, что вы боитесь знать о будущем. НеВенец творения"

Глава 9. Постгуманизм и постдемократия.
Электронная книга t.me/kudaidem/1377

Почти вся реклама, которую вы видите в интернете, адресована лично вам.

Систематизировав даже не персонифицированные знания об огромном количестве людей, можно выявить порой абсолютно необычные, но устойчивые закономерности. Например, знаете ли вы, что любители KitKat и Nike недолюбливают Израиль? Кстати, все это касается не только рекламы. В большинстве случаев даже статьи и страницы, на которые вам рекомендуют перейти, тоже отобраны лично для вас аналогичным алгоритмом.

Даже те приложения, которые якобы гарантируют приватность данных, на самом деле не могут гарантировать ничего.

Например, летом 2019 года в сеть слили персональные данные почти семи миллионов женщин – пользовательниц приложений Maya и MIA Fem. Приложения собирали данные о менструальном цикле, датах половых контактов и даже типе контрацепции при них. Представьте себе, какие последствия могли бы быть, если бы эти данные стали известны ревнивым мужьям или партнерам пострадавших?

Владельцы приложений решили продвинуть свои продукты с помощью Facebook, заказали рекламу у социальной сети, она запросила персональные данные пользователей… А дальше, как всегда, свою роль сыграл человеческий фактор – банальная халатность. Э

тот же фактор стал причиной того, что в 2019 году 1,7 терабайта персональных данных, а также данных СОРМ (системы досмотра трафика и сбора информации спецслужбами), принадлежащие российской компании МТС.

А ведь когда персональные данные оказываются у коммерческих компаний, они в большинстве случаев дают возможность полностью предсказать поведение человека, то есть во многом контролировать его судьбу.

Самая громкая из ставших достоянием гласности историй – это скандал с компанией Cambridge Analytica, аналитической фирмой, как считается, сумевшей повлиять на выборы в Соединенных Штатах.

Все началось с того, что еще в 2008 году два ученых-психолога из Кембриджа решили сопоставить результаты психометрических тестов добровольцев с данными об их поведении в социальных сетях.  Разработанные ими аналитические нейросети позволяли по лайкам узнать человека даже лучше, чем он знает себя сам.

Наверное, многие читатели помнят замечательные тесты в соцсетях, чтобы узнать свой психологический или генетический портрет.  Почти все такие тесты – ловушки, в которые попадаются пользователи, отдавая свои личные данные.  Такой пользователь впоследствии становится объектом манипуляции со стороны неизвестных ему коммерческих или PR-компаний.

Каждый прошедший тест пользователь открывал доступ к данным еще примерно ста шестидесяти человек. Таким образом, собрали личные данные почти 50 млн граждан, при том что сам тест прошли только 320 тыс. пользователей соцсети.

Для Cambridge Analytica разработали программу Ripon, способную выявить сторонника Республиканской партии, просто анализируя его личную страницу в соцсети.

Cambridge Analytica скупила огромное количество персональных данных американских избирателей (медицинские данные, кадастровые выписки, клубные и скидочные карты, газетные подписки, телефонные справочники) и сопоставила эти данные с базой данных зарегистрированных сторонников республиканской партии США и имевшейся информацией о репостах и лайках пользователей Facebook. А дельше начался простой прицельный «обстрел» аккаунтов выбранных людей индивидуальным, подходящим именно им контентом.

После скандала и последовавших за ним обысков ФБР компания Cambridge Analytica объявила себя банкротом. Cambridge Analytica участвовали в большом количестве предвыборных кампаний по всему миру – от Нигерии и Аргентины до Индии и Чехии.

Кристофер Уайли был настоящим локомотивом Cambridge Analytica. Кристофер решил помочь британским либерал-демократам найти новых потенциальных избирателей. Но их не заинтересовало его предложение. В итоге они фактически потеряли все.

Наряду с Уайли соучредителем Cambridge Analytica стал Роберт Мерсер – один из пионеров в области создания искусственного интеллекта. Мерсер принимал участие в изобретении алгоритмической торговли, которая в итоге заменила управляющих инвестиционных и хедж-фондов компьютерными программами – и он точно знал, что «компьютерные суждения о личности более точны, чем те, которые сделаны людьми».

Основным методом работы Cambridge Analytica стало изменение политических предпочтений людей не с помощью убеждения, а с помощью так называемого «информационного доминирования» – совокупности методов таргетированной рекламы, слухов, дезинформации и двусмысленных новостей, которые изначально зачастую распространялись с фейковых аккаунтов. Кстати, похожая кампания наблюдалась в соцсетях и при коронавирусной пандемии.

Cambridge Analytica обнаружили, что, если постоянно и точечно доносить до электората поданную «под правильным углом зрения» информацию, то рано или поздно избиратель, даже несмотря на кажущуюся абсурдность информационного потока, станет считать, что этот поток и есть его собственное мнение.

И, кстати, Дональд Трамп своими заявлениями и твитами предоставлял огромное количество разнообразного контента, подходящего под все случаи жизни и под любого избирателя.

Политика – следствие культуры, поэтому, чтобы изменить политику, нужно изменить культуру. Трамп похож на пару зимней обуви «угги», или «кроксов», например. Люди думают, что эта обувь совершенно уродлива. Но лишь до того момента, пока ее не начнут носить все.

Механизм манипулирования мнением отдельно взятого индивидуума удивительно прост, и, соответственно, общественным мнением, если использовать современные технологии.

Если вы читаете «персонализированную» ленту новостей, смотрите один-единственный канал (либо несколько каналов, но с отсутствием реального плюрализма мнений), вы раньше или позже начнете мыслить теми месседжами, которые вам посылаются.

Да, технологии развиваются экспоненциально, и далеко не все из них идут на пользу людям.

Технологии ликвидируют приватность, разрушают экономику, лишают людей рабочих мест, и способствуют тому, что сам человек, похоже, неуклонно интеллектуально деградирует с начала 1980-х годов (вспомним уже упоминавшееся исследование уровня интеллекта норвежских призывников).

Умение мыслить самостоятельно – наш последний бастион, сдав который человек навсегда лишится гордого звания «Венца Творения».

А манипулятивные и «умные» технологии довольно быстро могут создать таких «людей-муравьев», единственной задачей которых может стать «работать усерднее» или «потреблять усерднее», в зависимости от той страны, региона или города, где они живут.

Современная наука уверенно доказала: на самом деле человек не имеет четко выраженного собственного мнения, а гуманистический взгляд на свободную волю человека – не более чем утопия.

Известно несколько экспериментов, доказывающих это.

Суть первого эксперимента — сканер, фиксирующий активности и нервные импульсы в коре головного мозга человека, позволяет ученым предугадать, на какую кнопку нажмет испытуемый, еще до того, как он сам осознает свое желание. Активность нервных клеток определяет решение человека за какие-то мгновения до того, как сам человек делает выбор. И при желании любое решение человека таким образом можно предсказать до его принятия. по факту мы можем лишь чувствовать и действовать соответственно происходящим в нашем мозгу биохимическим реакциям.

Этот эксперимент показывает, что у человека нет свободной воли в гуманистическом ее понимании, а вся его деятельность – лишь результат биохимических процессов в организме.

Это значит, что возможно создать алгоритмы, которые будут предсказывать заранее и, возможно, контролировать человеческие желания.

При необходимости они же легко смогут этими желаниями управлять. Именно это описывает так называемый эксперимент с роботизированными крысами. Электроды, воздействуя на определенные зоны головного мозга, порождают у крысы желание сделать то, что велит ей исследователь.

Технологии (даже неинвазивные и, казалось бы, безобидные – такие как таргетирование, социальные сети, или, например, персонализированный контент) дают возможность манипулировать человеческим мнением и выбором так, что сам человек даже и не будет подозревать, что решение принимается за него.

 

Прогресс – это часть эволюции, которая последовала за эволюцией физической, химической, биологической. И прогресс не повернуть вспять: он предопределен множеством факторов, причинно-следственных связей.

Вспомним грозные слова Илона Маска: «Надеюсь, мы с вами не являемся чем-то вроде загрузчика для искусственного суперинтеллекта будущего. Но, как мне кажется, все идет именно к этому».

Известно, что Илон Маск любит шокировать журналистов своими откровениями, хотя, по большому счету, в них нет ничего невероятного.

Датаизм (от английского Data – данные), новейшая эволюционную концепцию гласит, что в теории волей человека, как и любого биологического существа, может в значительной мере управлять внешний алгоритм (вспомните эксперименты с роботизированными крысами), а вся вселенная представляет собой исключительно потоки данных разного типа.

Согласно этой концепции, любая информация, будь то геном человека или двоичный код компьютера, есть лишь разновидность потоков данных, ценность которых определяется их вкладом в общий процесс обработки информации. Процесс един и непрерывен, просто есть разные носители информации – биологические или, например, электронные.

Согласно теории датаизма, самое ценное, что есть у человека – это его персональные данные, а общество существует для того, чтобы максимально быстро и эффективно распространять потоки информации, по возможности, с минимальными потерями.

Кстати, современным ученым уже известно, что биологические существа могут функционировать как обыкновенная вычислительная машина.

Человек – в некотором роде просто биологический компьютер, транзистор различной интеллектуальной мощности. И, если рассматривать со стороны роль каждого человека в процессе социально-технологической эволюции, очень похоже на то, что так и есть – вспомним принцип концентрации интеллекта, являющийся краеугольным камнем социально-технологического эволюционизма.

Возможно, уже в ближайшее время децентрализованная капиталистическая система сменится на централизованную и полностью упорядоченную государственную, в которой можно будет просчитать и проанализировать абсолютно все с помощью нейросетей и больших данных.

«Постбиологический глобальный вычислительный центр» – искусственный интеллект – уже появился, но пока что находится лишь в зачаточном по меркам эволюции состоянии. Однако по мере приближения технологической сингулярности он будет прогрессировать все быстрее и становиться все мощнее и эффективнее. И очень важно понимать, что все это произойдет не «когда-то, в отдаленном будущем», а уже в ближайшие годы. Возможно даже, уже происходит.

Глава 10. А есть ли будущее?

Человеку комфортнее жить, если никакой дикой природы не будет вовсе. Не будет акул в океанах, ядовитых медуз или морских ежей у побережья.

Наше отношение к «дикой природе»: человек для природы и для животных – бог, который меняет эту самую природу так, как ему заблагорассудится.

Общее количество людей на Земле все еще растет, а количество диких животных уменьшается. Более того, в последние годы специалисты все больше стали отмечать негативные тренды и в мире насекомых. Численность 40 % видов насекомых сократилась в последние десятилетия,, общая численность насекомых сокращается довольно быстрыми темпами – до 2,4 % ежегодно.

Это очень быстро. Через 10 лет у нас будет на четверть меньше насекомых, а через 100 лет их не будет. С исчезновением насекомых планета рискует лишиться и растительного покрова: около 80 % дикорастущих растений опыляются насекомыми.

Океанологи выступают с заявлениями, что в скором будущем человечество может лишиться и запаса рыбы.

Но, если остановить капиталистическую машину потребления, то, и так весьма слабый экономический рост последних лет прекратится. Социальные лифты встанут окончательно, а в странах третьего мира (да и не только там) может начаться хаос.

Вспоминается известный эксперимент «Вселенная-25».

По итогам эксперимента «Вселенная-25» ученые отмечали, что любое общество существует, пока возможна конкуренция одних членов с другими членами сообщества, поиск своего места, роли, предназначения в жизни, или хотя бы социальной ниши. Если же преуспеть ни в чем не получается, жизнь теряет смысл. Это и произошло с мышами, которые в условиях, когда «нечего больше хотеть», отказались от сложных поведенческих паттернов. В итоге обитатели «мышиного рая» деградировали очень быстро.

Конечно, весь этот эксперимент – лишь красивая аналогия. И нет оснований предполагать, что люди, почувствовав «пределы роста», должны начать вести себя так же, как и мыши из эксперимента.

Но все тренды указывают на то, что «золотой век» цивилизации остался позади и для человечества в основной своей массе наступают нелегкие времена. И, возможно, будущее будет совсем не таким «светлым», каким мы его себе представляли еще совсем недавно.

Давайте немного пофантазируем в жанре антиутопии.

Начнем с того, что деньги (богатство) для большинства людей не будут играть в будущем решающей роли, поскольку значение государства как единого «регуляторно-распределяющего» механизма в достигшем пределов роста мире резко возрастет.

Роль датакратической «властно-технологической» элиты может в этих условиях стать абсолютной. Государство и «цифровые» гигакорпорации, платформы и агрегаторы, похоже, претендуют на то, чтобы стать всевластными.

Цена «поведенческой» ошибки многократно возрастет: ведь о любом человеке будет известно все до мелочей.

Это будет общество, которое в основной своей массе будет состоять из безработных иждивенцев.

«Социальных лифтов» не останется в принципе, поскольку нейросети будут постепенно вытеснять человека из всех отраслей, да и высшая элита через некоторое время будет рада переложить на плечи искусственного интеллекта принятие решений, оставив себе безусловное право наслаждаться жизнью и доступным только ей практически неограниченным потреблением.

По-прежнему нарасхват будут лучшие ученые и врачи, элитарные наука, образование и медицина останутся с нами почти до конца. Но массовые профессии, не связанные с IT, уйдут в прошлое, и стремиться, в общем-то, «людям не из элиты» будет практически не к чему. Зато геймерство как способ заработка или, например, майнинг (фарминг) каких-нибудь виртуальных ресурсов (как, скажем, довольно популярный уже в наше время фарминг золота в игре World of Warcraft) станут гораздо более распространенными занятиями.

Велика вероятность перехода социума к формату «Нового Средневековья», когда приблизившиеся к бессмертию элиты во многих странах предпочтут в принципе ликвидировать социальные лифты и минимизировать расходы на «социальный сектор».

Зато повсеместно станет распространен скоринг здоровья, наряду (или интегрированно) с социальным рейтингом. «Здоровье от природы» станет капиталом: любое хроническое заболевание – это слабый иммунитет, а ослабленная иммунная система означает риск подхватить какой-нибудь новый вирус и, тем самым, стать опасным для общества. Впрочем, как помнит читатель, скоринг – это оценка. Так вот оцениваться в «новом мире» будущего будет практически все: кредитоспособность, здоровье, эмоциональный интеллект.

Все большее количество людей предпочтет оставаться чайлдфри, понимая, что, в сущности, их ребенку будет гораздо тяжелее обеспечить себе достойный уровень жизни, чем им самим. Ведь как это сделать, если сфер, перспективных для человека, будет оставаться все меньше? Да и государству, кстати, намного выгоднее будет ограничивать рождаемость, нежели чем пускать этот процесс на самотек, особенно после того, как будет решена проблема «старения» экономически активного населения.

Многие топовые инфлюенсеры (вспомните главу 7), представители этого «духовенства будущего», тоже имеют все шансы стать частью элиты, если, конечно, они будут придерживаться мейнстримных позиций. Им нечего бояться, кроме операторов платформ типа Instagram и YouTube, на которых они будут вести свою деятельность. В будущем, где «виртуальная экономика внимания» функционирует по другим принципам, нежели классическая капиталистическая экономика, люди, завладевшие вниманием миллионов – настоящие магнаты-капиталисты и звезды-селебрити в одном лице.

Очень вероятно, что уже совсем скоро мы увидим общество «глобальной безопасности и контроля» с элементами так называемой «Матрицы», когда 98–99 % населения будет дрейфовать в сторону жизни в виртуальной реальности, и лишь элиты останутся в условном «реальном мире», в котором для них (пока) ничего не изменится. В дальнейшем, очень вероятно, «сильным мира сего» будет доступна киборгизация и превращение в «сверхлюдей».

Для граждан, живущих в «Матрице», достаточно будет самого минимального Безусловного Основного Дохода. А, возможно, «цифровым людям» он вообще не потребуется…

«Матрицу» могут предпочесть и просто одинокие и необщительные люди, которых с развитием процесса цифровизации будет становиться все больше.

Усилится роль религий, причем как традиционных, так и новых, в том числе всемозможных «цифровых» верований и сект. Лишившимся традиционных моральных ориентиров простым людям все больше нужно будет черпать надежду в вере.

В будущем есть место и позитивным сценариям. Светлое будущее, «развитие и рост без границ» станут вполне возможными, если появятся новые технологии, которые сделают реальным (и прежде всего экономически выгодным) освоение и заселение космоса людьми.

Наступит эпоха «Новых Великих географических открытий», а спрос на людей, на человеческий труд возрастет многократно, так как Вселенная, как известно, практически бесконечна.

В этом случае оставшимся на планете Земля людям, вполне может выплачиваться Безусловный Базовый Доход, ведь ресурсов в «новых колониях» хватит на всех. В противном случае ББД может стать реальностью только в богатейших странах мира, но никак не повсеместно.

Тем временем социально-технологическая эволюция, благодаря которой и появились большие данные, мобильные гаджеты и нейросети, уже привела к тому, что человечество в основной своей массе неуклонно, причем со все возрастающим ускорением, снижает свой интеллектуальный потенциал, постепенно становясь лишь придатком искусственного интеллекта. Большинству homo sapiens уже нет смысла развивать свой мозг, потому что программы все сделают за них. Да что там развивать – многие люди уже предпочитают вообще «не включать голову», слепо доверяя весь мыслительный процесс алгоритмам и разного рода девайсам, ведь так гораздо удобнее. Это неизбежно означает, что в более отдаленном будущем в какой-то момент контроль над искусственным интеллектом будет утрачен.

Мы способны управлять тиграми не потому, что мы сильнее, а потому, что умнее, так что если мы сдадим позиции самых умных на планете, то рискуем утратить свободу.

★2

теги блога Андрей Колесников

....все тэги



UPDONW