Блог им. Koleso

НеВенец Творения. Часть2 . Все, что вы боитесь знать о будущем. Социальный рейтинг. Интернет Поведения.

НеВенец Творения. Все, что вы боитесь знать о будущем.
Текстовый конспект Электронная книга t.me/kudaidem/1377


Расскажу как технологии влияют на общество.

Как нейросети следят за китайскими школьниками.

Как связаны цифровизация — аутосексуалы и цифросексуалы.

Цифровые инфантилы и сейфтизм.

Предиктивная полиция и китайская национальная программа безопасности «Зоркий Взгляд».

Почему Китайская нейросеть несмогла победить коррупцию.

Как связаны система социального кредита, уйгуры и эволюционный социализм .

Чем похожи китайская служба знакомств Baihe и Тиндер.

Сможет ли социальный рейтинг сформировать новую сословную систему.

Почему цифровизация стимулирует распространение принципа презумпции вины.

Почему алгоритмама нравятся те клиенты, которые держат батарею своего смартфона всегда заряженной.

Про умные города Гугл, тойоты и Саудовской Аравии.

Как видит мэрия Москвы столицу в 20130 году.

Что такое Интернет Поведения.



Глава 3. Жизнь через монитор.

Формируется тренд на снижение качества знаний среднего гражданина и восприятие им «псевдознаний» как реальности.

Ученые фиксируют снижение среднего IQ населения в развитых странах, и тренд на снижение уровня интеллекта среднего индивидуума, устойчиво сохраняющийся с конца 70-х годов прошлого века, усиливается.

Каждое следующее поколение норвежцев после 1979 года имело средний IQ ниже, чем предыдущее. Американские исследователи пришли к аналогичным выводам.

По данным «Wall Street Journal», анализ успеваемости 115 тысяч учеников в школах Балтимора до и после введения онлайн-обучения показал, что за последние 5 лет средняя успеваемость в школах округа резко снизилась.

Мозг ребенка постоянно переключается с одного информационного канала на другой, с одной новости или сообщения на другое и не может сконцентрировать свое внимание на чем-то одном, предпочитая постоянно пролистывать френдленту в соцсетях, но информация не успевает усваиваться.

Все эти факторы приводят к тому, что у школьника начинает проявляться феномен функциональной неграмотности. Информация не задерживается в голове.

«Информационная» зависимость меняет работу мозга на химическом уровне. Поведение становится более импульсивным, повышается тревожность и нервозность. Зависимость от гаджетов сравнима с легкой формой наркомании, которую можно эффективно лечить, но делать это нужно обязательно, пока последствия не стали необратимыми.

Пока же школьники всего мира предпочитают непрерывно потреблять все более простой и примитивный цифровой контент, получая удовольствие от перенасыщения своего мозга информацией, предпочтительно с ее визуализацией.

В некоторых городах Китая в учебных классах школ стали устанавливать камеры видеонаблюдения. И не просто камеры, а с системой распознавания лиц и мимики учащихся. Нейросеть считывает мимику учеников, а затем искусственный интеллект анализирует эту информацию, оценивая поведение детей в классе. Система распознавания лиц фиксирует семь типов эмоций: нейтральное выражение лица, счастье, грусть, испуг, злость, недоумение и удивление. Когда нейросеть решает, что кто-то из учащихся отвлекся и не слушает педагога, она отправляет ему уведомление с напоминанием о необходимости вести себя на уроке подобающим образом.

В Соединенных Штатах все более распространенным становится мнение, гласящее, что человек, получающий товары и услуги в основном онлайн, социально неуспешен.

Стоимость офлайнового человеческого контакта постоянно растет. В будущем только успешные и обеспеченные люди смогут позволить себе живое человеческое общение без каких бы то ни было ограничений.

Цифровизация коммуникаций и снижение интенсивности живых человеческих контактов приводит к новым, совершенно незнакомым ранее явлениям в современном мире.

Все больше распространяется аутосексуализм (любовь к самому себе). При этом речь не идет об обыкновенном нарциссизме: это настоящее любовное опьянение: бабочках в животе, биении сердца, беспокойстве.

Особенно это явление становится распространено среди западных женщин. Многие из них, стали «сами себя приглашать в кафе, гулять сами с собой, и нежиться в ванной в одиночестве». Некоторые даже требуют законодательно разрешить выходить замуж или жениться на самом себе.

Сильное желание не выходить из зоны комфорта и не прилагать никаких особенных усилий, чтобы найти свою вторую половинку, во многом вызвано все более распространяющимся «цифровым инфантилизмом».

Все более распространяется крайняя форма политкорректности – идеология «сейфтизма» (от слова safety – безопасный), которая гласит, что людей, даже взрослых, нужно защищать от любого дискомфорта и несогласия.

В некоторых американских университетах даже вопрос «откуда ты?», заданный афроамериканцу или азиату, теперь считается микроагрессией, потому что якобы может подразумевать, что приезжему «здесь не место».

 Как следствие, коммуникации в обществе затрудняются, так как коммуницирующие общаются очень осторожно, постоянно опасаясь хоть чем-нибудь задеть друг друга.

Карьерный рост женщин в США замедлился после жестких публичных кампаний типа #metoo, скандального дела Харви Вайнштейна и вала аналогичных судебных дел «за сексуальные прегрешения давно минувших лет». Вице-президент Соединенных Штатов Майкл Пенс выразился по этому поводу однозначно: «Я избегаю обедать наедине с любой женщиной, кроме своей жены».

«Дьявол начинается с пены на губах ангела, вступившего в бой за святое и правое дело».

Другой пример, с нынешними правилами Facebook, рассказывать о фламандской живописи просто невозможно, соцсеть удаляет такие посты. Получается, что ради мифической «политкорректности» социальная сеть ограничила в правах целый регион, культурная жизнь которого неразрывно связана с творчеством Рубенса и других фламандских живописцев.

Бренды, эксплуатирующие сексуальность – Playboy, Agent Provocateur, Victoria’s Secret – теряют долю рынка или даже банкротятся, а спрос на их продукцию становится все менее стабильным (продажи бюстгалтеров «пуш-ап», например, в Европе и США упали вдвое за последние несколько лет).

С другой стороны, замужние женщины называют постоянный просмотр порнографии своим супругом поводом для развода – причем иногда даже более весомым, нежели, скажем, супружеские измены.

А ведь не за горами время, когда промышленность начнет выпускать недорогих секс-роботов для массового потребителя. Кстати, учитывая тот факт, что благодаря искусственному интеллекту такие роботы смогут не только заниматься сексом, но и общаться, готовить еду, убирать дом и даже понимать человека лучше, чем любой другой обыкновенный «человек разумный», кого вы предпочтете, если такая возможность выбора будет у вас? Человека или человекообразного робота?

Как только искусственный интеллект таких роботов достигнет определенного уровня, общаться с ними будет интереснее, чем с некоторыми людьми. Клиенту предложат «настраиваемую личность с тем багажом, который он хочет», да и секс с машиной «проще, безопаснее, чаще и гораздо приятнее».

В России уже стартовали продажи человекообразного робота Robo-C от компании Promobot, внешность которого делается под заказ и может быть, в том числе и копией, например, безвременно ушедшего близкого человека.

 «Сын погиб более года назад, и отец не может смириться с его потерей и попросил создать  копию сына – лицо по имеющейся технологии и нейронную сеть для общения, обученную на фразах его сына», – рассказывает директор по развитию компании-производителя Robo-C Олег Кривокурцев. Стоит робот– от 1,2 до 3 миллионов рублей за машину.

Уже, заговорили о введении в перечень современных «сексуальных идентичностей» нового гендера – цифросексуала. Предполагается, что это люди, которые нуждаются в сексуальном взаимодействии лишь с помощью современных цифровых технологий и не испытывают желания общаться с себе подобными (неважно, речь идет о противоположном поле или нет). Индустрия предоставляет для них огромное количество возможностей: секс-боты, игрушки, оснащенные искусственным интеллектом, погружение в виртуальную реальность и роботы, полностью похожие на человека как внешне, так и на ощупь.

В будущем станут возможны самые различные варианты получения удовольствий. Уже совсем скоро будет доступна возможность получения оргазма с помощью прямой стимуляции мозга электродами, и не факт, что это будет менее приятно, чем занятие сексом с антропоморфной машиной.

Кстати, время – самое ценное, что будет у человека в будущем. Термин, когда время конвертируется в деньги почти напрямую, получил название «экономика внимания».

 

Глава 4. Учет и контроль.

Во многих странах мира технологии анонимизации уже поставлены вне закона, и использование их карается очень строго. Например, в Объединенных Арабских Эмиратах человеку, заходившему в сеть через VPN, может грозить уголовное преследование и даже реальный шестилетний срок.

В ближайшей перспективе анонимный выход в интернет станет в принципе невозможным: если уж появились технологии таргетирования рекламы на конкретного пользователя, отслеживать его незаконные действия в сети с помощью подобных алгоритмов будет несложно.

В обществе вдруг укоренился тренд на полную открытость и прозрачность, а стандартная просьба «Докажите происхождение ваших средств» сделала немодной даже презумпцию невиновности.

Массовое сокращение издержек и тотальный учет и контроль всего, что можно проконтролировать, стали возможными благодаря цифровизации.

Основатель портала «Wikileaks» Джулиан Ассанж назваллюдей, живших в 2000-х – 2010-х годах, «последним свободным поколением», имея в виду, что «цифровой след», который каждый пользователь интернета оставляет в сети, делает невозможным сокрытие действий, высказываний или даже ближайших планов человека. А искусственный интеллект, анализирующий массивы «больших данных», очень скоро будет знать о людях больше, чем они сами (возможно, уже знает).  

Нейросети, анализирующие «цифровой след» и большие данные, не только контролируют людей. Они еще и помогают им, предсказывая то, что ранее было абсолютно невозможно, и выявляя совершенно неочевидные закономерности. Алгоритмы делают жизнь «человека разумного» удобнее и комфортнее, во многом думая и принимая решения за него. И, как знать, может быть, именно это – не думать и не принимать решения – и нужно теперь человеку?

Big Data стали настоящим драйвером роста для многих компаний из разных отраслей, позволив предсказывать и осуществлять то, что раньше казалось немыслимым. Так, компания Coca-Cola стала продавать намного больше своих напитков, когда аналитические нейросети выяснили, что студенты активнее покупают газировку в дни, когда по телевизору показывают новые серии популярного в США сериала «Ходячие мертвецы».

В Лос-Анжелесе бутилированная вода продается лучше во время дождливой погоды. Объяснить логически этот факт не смог никто.

Бум Big Data привел к появлению и совсем, казалось бы, оригинальных сервисов. Так, платформа Duetto позволяет снять номер в отеле по самой выгодной цене тем людям, которые, по данным алгоритма, потенциально готовы потратить много денег на бары, кафе, SPA-процедуры или казино. Как нейросеть определяет таких гостей – не раскрывается, но многие гостиницы готовы предложить лучшую цену за номер, зная, что клиент потратит деньги на дополнительные услуги в стенах отеля.

Аналитики Target выявили около 25 продуктов, которые являются предварительными «маркерами беременности». Проанализировав покупки, алгоритмы могут достаточно точно оценить, на каком сроке находится конкретный клиент, что позволит компании высылать ему скидочные купоны на товары, приуроченные к различным этапам процесса беременности.

Более того, искусственный интеллект довольно быстро выяснил, что многие женщины плохо относятся к тому, что их покупки и поведение анализируются. Поэтому менеджеры Target сделали хитрый ход: наряду с купонами на товары для беременных торговая сеть начала отправлять женщинам рекламу товаров, которые ожидающие ребенка, по данным сети, никогда не купят, рядом с купонами на подгузники клиентке доставляется, например, реклама газонокосилки или винных бокалов. В этом случае женщина думает, что всем клиентам торговой сети приходит одна и та же рассылка, в которой продукты просто подобраны случайным образом.

Неужели искусственный интеллект может учесть все факторы и предсказать на основе «больших данных» практически все? Очень вероятно, что да.

Компания Geisinger разработала искусственный интеллект, который точно предсказывает смерть человека, если она должна наступить в течение ближайшего года. Алгоритм анализирует электрокардиограмму (ЭКГ) пациента, и дает свой прогноз, основываясь лишь на ней.

В Geisinger особо отмечают, что о риске скорой смерти нейросеть может точно предупредить даже тогда, когда врачи не находят у человека проблем со здоровьем и каких-либо отклонений в медицинских показателях. Чем именно руководствуется искусственный интеллект, делая те или иные выводы, неизвестно даже его разработчикам. В Geisinger рассказали, что в процессе обучения нейросети были собраны и обработаны 1,7 миллиона электрокардиограмм от 400 тысяч пациентов, и это единственные данные, которыми руководствуется алгоритм.

Фиксируется все больше и больше случаев, когда нейросети принимают верные, но необъяснимые с точки зрения человеческой логики решения. Искусственный интеллект может научить нас понимать вещи, которые мы неправильно интерпретировали на протяжении десятилетий.

Вскоре технически будет возможна и предиктивная полиция – нейросети будут в состоянии предсказывать еще не случившиеся преступления, анализируя большое количество информации как с видеокамер наблюдения, так и в сети интернет.

Получается, что искусственный интеллект уже может поистине все – предсказывать смерти, беременности, преступления, думать и решать за людей, находить логику в действиях любого человека.

В 2020 году в Китае уже 626 млн камер слежения. Все частные и государственные системы видеонаблюдения с распознаванием лиц в КНР собираются объединить в общую базу, что должно значительно облегчить процесс анализа данных.

Уйгурам не повезло больше всех. Начиная с 2017 года все синцзянские мусульмане от 12 до 65 лет обязаны сдавать подробный биометрический и ДНК-тест, включающий фотографии не только своего лица, но и всех возможных частей тела, анализ крови, отпечатки пальцев, скан сетчатки глаза, запись голоса и образцы волос.

Всю эту информацию анализирует искусственный интеллект, получивший название IJOP (Integrated Joint Operations Platform). Эта нейросеть, созданная в недрах военного ведомства Китая, теперь является частью национальной программы безопасности «Зоркий Взгляд».

В начале 2018 года все мусульмане Синцзяна были обязаны установить на свои смартфоны приложение JingWang, которое сканирует и передает аналитической нейросети IJOP всю активность пользователей.

Аналитические алгоритмы фиксируют все, что граждане читают, пишут, говорят, они помнят все передвижения человека. Пользоваться телефоном без JingWang запрещено, равно как и выключать смартфон или пользоваться чужим. Нейросеть сводит вместе всю информацию, полученную с телефонов граждан, камер слежения, пропускных пунктов и полицейских отчетов. Для анализа ей доступны биометрические и медицинские данные каждого, включая фертильность, психические нарушения, хронические болезни.

Нейросеть немедленно сигнализирует полиции обо всех подозрительных, с ее точки зрения, действиях гражданина. Сам факт ночевки человека вне дома – это уже повод обратить на него внимание. Если крестьянин, покупающий обычно для своей фермы 5 кг удобрений, вдруг неожиданно берет 15, алгоритм может послать к нему полицейских для выяснения причин нестандартной покупки.

На территории провинции через каждые 20–30 километров стоят контрольно-пропускные пункты (КПП) с «воротами», которые сканируют отпечатки пальцев и радужную оболочку глаза.

Также обязательно проверяют смартфоны и прочие девайсы: машина сама считывает MAC-адреса и номера IMEI, сканирует на предмет наличия VPN, запрещенных (в том числе Viber, WhatsApp, Telegram) приложений и контента – ссылок, контактов, загрузок и тому подобное.

Вся информация поступает в IJOP. Система оценивает подозрительность каждого проходящего через КПП по 100-балльной шкале. Уйгуры и казахи автоматически получают 10 пунктов, люди старше 15 и моложе 55 – еще 10, верующие – еще 10.

«Ворота» сообщают полицейским, что именно им следует делать: опросить, задержать для расследования или немедленно арестовать. Такая же система стоит и на всех заправках: заправиться можно, лишь предъявив системе документы водителя и автомобиля.

Нейросеть умеет определять по лицам национальность уйгуров и может делать это по всему Китаю.

Переписка во всех шести разрешенных в Китае мессенджерах маркируется паспортными данными пользователей и координатами GPS, а алгоритм ежедневно просматривает переписку 364 миллионов жителей. Ежедневно в восемь утра IJOP посылает на телефоны полицейских сообщения обо всей подозрительной активности в их районе.

Города разбили на блоки, и при переходе из одного квартала в другой каждый уйгур обязан предъявить пластиковый ID, просветить сумку, сканировать зрачок, а в некоторых случаях – отдать полицейскому для ознакомления свой телефон. Эта же процедура ожидает местных жителей в банках, больницах, супермаркетах и даже в подземных переходах. Даже при покупке обычных кухонных ножей уйгуры теперь обязаны нанести лазерной гравировкой идентифицирующий владельца QR-код на лезвие.

В Пекине надеются, что в результате мер, принятых правительством, исламский терроризм навсегда останется в прошлом.

Китай не только эксплуатирует систему IJOP в собственной стране, но и эффективно экспортирует ее. Например, обеспечивающая всю инфраструктуру IJOP китайская госкомпания недавно открыла отделение в Эквадоре. Здесь внедрили известную по Синцзяну геолокационную систему, позволяющую отслеживать мобильные телефоны граждан. И, конечно, камеры.

Уровень преступности в Эквадоре, один из самых высоких в Южной Америке, за год упал на 11 %. Филиал китайская госкомпания CEIEC уже функционирует в Москве, они скоро появятся в Бразилии, Боливии и Перу, где много уличных банд. Власти этих государств очень высоко оценивают систему IJOP как эффективный инструмент для борьбы с криминалом.

Huawei в Уганде и Замбии помог правительственным чиновникам следить за политическими оппонентами. Китай уже занимает 46 % мирового рынка систем видеонаблюдения.

КНР — основная движущая сила развития цифровых технологий в мире, в том числе систем видеонаблюдения и распознавания лиц.

Уже половина стран мира активно используют искусственный интеллект для видеонаблюдения.

Либеральные демократии по всему миру также активно внедряют соответствующие технологии: от автоматизированного пограничного контроля до комплексных систем безопасности «умных» городов, которые включают в себя функции распознавания лиц и быстрого оповещения полиции в случае подозрительного поведения.

Персональные данные китайцев находятся в полном доступе высокотехнологичных китайских корпораций, позволяя им обучать искусственный интеллект быстрее.

А, чем больше аккумулируется в государстве доступных для обработки данных – этой «новой нефти» современного мира – тем быстрее может развиваться искусственный интеллект и тем более точно и эффективно он будет принимать решения.

Недавно на рынке появилось «умное» устройство, которое подключается к автомобилю Tesla Model S или Tesla Model 3 и превращает его встроенные камеры в систему, которая обнаруживает, отслеживает и хранит номерные знаки и лица. Когда владелец ставит свой автомобиль на парковку, эта система запоминает лица проходящих мимо людей, и фиксирует, какие из них появляются в зоне наблюдения неоднократно. Цель устройства – уберечь владельцев автомобилей от воров и вандалов. Устройства превращает Tesla в станцию наблюдения.

А в Москве, полиция будет использоваться очки дополненной реальности, с функцией распознавания лиц.

Лицом можно будет автоматически оплачивать, например, проезд в общественном транспорте. В тестовом режиме эта система уже заработала в московском метро.

Мэрии Москвы собирается использовать систему распознавания лиц и для управления жилищно-коммунальным комплексом, для контроля строительства и рекламных поверхностей в городе, для других нужд. То есть, по факту, в Москве будет создана универсальная мониторинговая система, и столица станет полностью «умным» мегаполисом. Для идентификации личности достаточно будет глаз, носа или походки. Потенциально агрессивных людей можно будет элементарно выявлять заранее.

Нейросеть позволила в 2013 года практически в прямом эфире вычислить и задержать террористов, устроивших взрывы на Бостонском марафоне.

Веский аргумент, объясняющий низкий интерес граждан к вопросам собственной приватности и информационной безопасности – бесполезность противодействия. Тот же Эдвард Сноуден прямо говорит, что борьба со спецслужбами в любом случае неравная.

Сбор информации о гражданах и мониторинг их переписки становится все более и более легально распространен.

В наступившую эпоху «технологически предопределенной» тотальной прозрачности даже минимальная приватность становится непозволительной роскошью.

Повсеместное введение 5G вскоре позволит записывать и передавать информацию любого объема, отправляя на обработку в безлимитном режиме все, что происходит на улицах городов, в торговых центрах и общественных местах мегаполисов. С учетом распространения алгоритмов распознавания лиц это сделает приватность невозможной, даже если вы не пользуетесь смартфоном. Власти могут создать реестр «людей-невидимок» без соцсетей и мобильной связи. В квартирах функции камер видеонаблюдения будут исполнять «умные» вещи.

Повсеместный государственный контроль– это уже некая «новая реальность», но, как быть с несанкционированным контролем со стороны коммерческих компаний и, например, третьих лиц.

В Саудовской Аравии, например, существует мобильное приложение Absher. Оно позволяет мужьям следить за женами, и через него можно, например, запретить женщине покидать страну, указать жене, куда нужно ехать, сколько времени и где именно находиться.

А, Yandex запатентовал «Систему и способ определения дохода пользователя мобильного устройства», Yandex может наблюдать за своими пользователями, не оповещая их об этом. Система использует геолокацию пользователя, анализирует окружающие его звуки и установленные на смартфоне приложения, и, с помощью этих данных, угадывать профессию и даже доход пользователя.

Российская нацпрограмма «Цифровая экономика» предлагает поощрять пользователей за сбор информации о личных данных граждан с целью персонального скоринга.  Этими данными могут быть геолокации, cookie, IP-адреса, номера телефонов и электронная почта, информация о покупках пользователя. В качестве единой площадки-носителя такой информации эксперты предложили портал «Госуслуги».

Но, уже сейчас слышно немало голосов противников использования некоторых технологий в принципе. К ним уже стали прислушиваться политики. Например, в Сан-Франциско, в 2019 году городской полиции и иным государственным органам запретили использовать технологию распознавания лиц.

 

Глава 5. Рейтинг заменит деньги?

Когда Конфуций был чиновником, проситель предложил ему взятку и заверил, что об этом никто не узнает. Мудрец ответил: «Я знаю, ты знаешь, Небо знает. Кто не знает?».

Коммунистическое руководство Китая, заменившее собой конфуцианское Небо, не могло смириться с тем, что оно чего-то не знает о своих гражданах, поэтому еще при Мао Цзэдуне создало систему «дан-ань» (бумажных папок с личными делами граждан). В каждой такой папке были собраны все данные гражданина КНР – фото, послужной список, служебные и личные характеристики, отчеты об успеваемости и правонарушениях, его общественная активность и многое другое.

Современная система социального кредита – это единая база данных китайских граждан и их личных дел.

Высокие баллы социального рейтинга позволяют китайцам снять гостиницу без депозита, получить кредит по льготной ставке или даже скидку на аренду жилья. Но если вы общаетесь с подозрительными лицами, курите в неположенных местах или часто нарушаете правила дорожного движения, вам могут не продать билеты на самолет и поезд или откажут в выдаче банковского кредита. Если у родителей совсем плохой рейтинг, детей могут не взять в некоторые школы.

Основная цель внедрения системы социального рейтинга в Китае – «построение гармоничного социалистического общества». Главная ценность такого общества – честность.

Для борьбы с неплательщиками по кредитам власти КНР даже запустили приложение внутри мессенджера WeChat, в котором любой гражданин может в режиме онлайн увидеть, не находится ли от него поблизости финансовый должник.

Пользователь WeChat, увидев местоположение такого должника, сможет при желании проследить за ним и сообщить контролирующим органам, если траты этого человека покажутся ему чрезмерными. Достаточно и простого подозрения третьих лиц, что внешний вид должника позволяет тому платить по своим долгам.

Когда приложение будет завязано на «Систему социального кредита», это сделает уклонение от возврата долгов бессмысленным: слишком серьезным будет в таком случае поражение должника в правах и, соответственно, снижение качества жизни как его самого, так и, возможно, родственников неудачливого заемщика.

Российские судебные приставы в 2019 году тоже загрузили в систему уличного видеонаблюдения почти 1,5 тыс. фотографий злостных должников-неплательщиков.

В Индии создают национальную систему биометрической идентификации «Aadhaar» (в переводе с санскрита «основа»). Для регистрации в «Aadhaar» каждому жителю страны присвоили уникальный 12-значный номер с отпечатками пальцев, фотографией лица и радужки в глаз. К нему привязали паспорт, банковские счета, сим-карты, облачный сервис для хранения документов, медицинские карты, кадастровые и избирательные документы.

Сейчас, в системе находятся данные более чем 1,4 млрд жителей Индии, то есть более 95 % населения республики. В Индии без номера «Aadhaar» не получить материальную, социальную и медицинскую помощь, пособие по материнству и бесплатные школьные завтраки. Без него нельзя зарегистрировать симкарту, невозможно поступить в вуз. В некоторых индийских штатах новорожденных без прохождения соответствующих процедур просто не отдают родителям. Госслужащие в Индии обязаны по приходу на работу отмечаться на биометрических терминалах, а на специальном сайте, используя определенный номер, руководство может посмотреть, находятся ли они в данный момент на службе.

 

В Китае помимо создаваемой централизованной «Системы социального кредита» существуют и частные. У интернет-гиганта Alibaba это система поощрения покупателей «Sesame Credit». У этой системы есть своя шкала – от 350 до 950 баллов. Если у вас 600 баллов, вы имеете право на беззалоговый кредит для покупок онлайн, если 650 – можете арендовать машину без залога, если 750 или больше – можете рассчитывать на экспресс-оформление шенгенской визы.

«Sesame» рассчитывает свой рейтинг, изучая, чем человек занимается в интернете, на основании исследования его пользовательских данных, покупок и активности в сети. В целом, китайские корпорации оценивают честность и надежность своих клиентов по тем же принципам, что и государство – своих граждан.

Кстати, крупнейшая в Китае служба знакомств Baihe не скрывает, что продвигает странички пользователей в зависимости от баллов «Sesame Credit».

Кстати, похожую систему стал внедрять и сайт знакомств Tinder. Там это назвали «усовершенствованной системой ранжирования профилей по привлекательности».

Если вы лайкаете человека с высоким рейтингом привлекательности (человека, которого лайкают многие), то ваш рейтинг внутри Tinder повышается. Если вам понравился «низкорейтинговый» персонаж, то рейтинг немного понижается. И, соответственно, чем чаще вас лайкают более привлекательные люди, тем популярнее вы становитесь для алгоритмов системы.

Tinder делит людей по степени привлекательности и в основном показывает одинаково популярных людей друг другу, иногда разбавляя их профилями с иной степенью популярности.  Tinder анализирует переписку в приложении, и, если вы обмениваетесь с собеседником номерами телефонов, то ваш рейтинг синхронно поднимается, так как, по мнению алгоритмов, вы используете приложение не для развлечения, а для реальных знакомств.

Как-то председатель правления Alibaba Джек Ма убеждал правоохранительные органы использовать интернет-данные компании для выявления преступников, аргументируя: «Это нормально, когда человек по отдельности покупает скороварку, таймер и даже стальные подшипники или порох, но ненормально, если он покупает все это одновременно».

Многие китайцы считают, что «Система социального кредита» – это хорошо и даже гордятся ею. Она мотивирует людей на то, чтобы контролировать себя и свои привычки ради высоких баллов в рейтинге и статуса «заслуживающего доверия гражданина». Если человек знает, как именно за ним следят и по каким принципам его оценивают, то он сумеет адаптироваться.

Минусы системы: – полная прозрачность частной жизни и тотальный контроль; – ограничение некоторых прав и свобод граждан в качестве наказания за низкий рейтинг.

«Система социального кредита» может стать самой масштабной программой по воспитанию населения за всю историю существования человечества. И это будет тотальное воспитание, которого невозможно будет избежать или хоть как-то ускользнуть.

Общество «социального кредита» – это скорее эволюционный социализм с принципом «вы можете купить это, если вы этого достойны» нежели чем классический капитализм с логикой «любой каприз за ваши деньги».

Власти Китая, озабоченные борьбой с коррупцией, запустили в 2012 году нейросеть «Zero Trust», основным направлением работы которой была фиксация подозрительных сделок с активами, незаконного перехода права собственности, контроль строительства инфраструктурных объектов и выявление коррупционных схем. За семь лет нейросеть обнаружила факты коррупции с участием 9 тыс. китайских госслужащих. Но, искусственный интеллект якобы не мог объяснить, на основании какой именно совокупности обстоятельств нейросеть приняла то или иное решение, не мог подробно расписать всю цепочку данных. В итоге в судах это не давало возможности принять конечное решение за отсутствием достаточных доказательств и чиновники, пойманные Zero Trust «за руку», оставались работать на своих местах. В 2019 году нейросеть «Zero Trust» была отключена.

В перспективе социальный рейтинг может оказать влияние на формирование новой сословной системы. Что мешает «Системе социального кредита» стать универсальной сословной шкалой для всех граждан? Она наверняка сможет учесть все факторы без исключения, поставив на самый верх «пирамиды соцрейтинга» самых законопослушных, честных и умеющих адаптироваться к изменениям граждан.

Национальная программа «Цифровая экономика», представленная правительством Российской Федерации в 2018 году, обозначает свои цели как «создание общенациональной архитектуры данных» и «реализация цифровой идентичности граждан, управление цифровым профилем человека», что может быть по смыслу очень близко идеям «Системы социального кредита».

Технокомпании-агрегаторы стали первыми, кто начал оценивать своих клиентов посредством отзывов о них. Uber, Gett, Яндекс. Такси – все они стали присваивать своим пассажирам рейтинг, в котором многие пользователи увидели прообраз будущей единой «Системы социального кредита».

Скоринговые системы позволяют оценить возможные прибыли и риски при работе с конечным клиентом. Они изначально использовались в банковском бизнесе и были предназначены для оценки надежности и платежеспособности заемщиков, но с развитием финансовых технологий и расширением банковских сервисов их стали внедрять повсеместно.

Некоторые сервисы, например, система бронирования квартир Airbnb, предусматривают возможность пожизненного запрета на использование услуг.

По схожему принципу работает система мониторинга для баров PatronScan, функционирующая в США, Канаде, Великобритании и Австралии. Бармен имеет право оценить клиента, и, если тот, к примеру, замечен в дебошах или ином неподобающем поведении, вход во все бары, использующие PatronScan, ему будет закрыт.

Клиент, получающий низкий балл в частной системе, лишен права даже на защиту своей позиции.

Получается, что цифровизация стимулирует распространение принципа презумпции вины.

Отдельная история – многочисленные и непрозрачные скоринговые системы страховых компаний. Любое ваше действие – это дополнительный балл в копилку вашего права на страховую скидку или, наоборот, наценку. И это делает страховой скоринг (наряду с банковским) наиболее многослойным и запутанным.

Так, алгоритмы выяснили, что те клиенты, которые держат батарею своего смартфона всегда заряженной, намного более надежные заемщики, нежели чем те, у которых аккумулятор аппарата постоянно находится «около нуля».

С распространением этих систем мы все больше отдаляемся от модели «потребительского общества» с его ранее устраивавшей всех формулой «потребитель всегда прав».

Это ведет к «шеринговой экономике».

Кстати, согласно исследованию 2019 года, Россия заняла первое место в мире по доступности такси в сравнении с личным автомобилем. Россиянину, который проезжает за год менее чем 5,4 тыс. км, можно отказаться от собственного автомобиля: ему экономически выгоднее передвигаться по городу на такси. Но приватности в этом такси не будет. Технологичные компании предупреждают об этом заранее – так, Яндекс. Такси открыто заявляет о том, что будет контролировать своих водителей дистанционно. Такое же наблюдение будет осуществляться и за пассажирами. Кстати, предполагается, что в случае странного поведения или просто усталости таксиста автомобиль будет отключен программой.

Новейшие технологии уже позволяют создавать целые мегаполисы с нуля и «под ключ», в результате чего рождаются «умные» города со встроенными системами для управления городской средой на базе искусственного интеллекта и больших данных.

В 2019 года, корпорации JD.com создало подразделение, названного JD City, которое будет поставлять технологии «умного» управления городами муниципальным и региональным властям КНР.

Эти технологии можно применять для управления дорожным движением, перевозками или предоставлением коммерческих услуг, есть стандартные решения для экономии электроэнергии или организации смарт-паркинга. И, конечно, в рамках такого «умного» города предусмотрена возможность создания локальной системы социального рейтинга, причем как для граждан, так и для коммерческих организаций.

Для оценки контрагентов и клиентов этих предприятий (как юридических, так и физических лиц) JD.com использует большие данные, собранные на своих платформах (пользователями сервисов компании в Китае являются более 300 миллионов человек), а также информацию, предоставляемую местными властями. Особенность социального рейтинга от JD.com в том, что жителям не проставляют рейтинг по единой системе. Алгоритмы рассматривают каждый случай индивидуально, и на основе имеющихся у них данных оценивают благонадежность каждого конкретного гражданина. Например, если горожанин захочет арендовать велосипед, то система не будет учитывать, владеет ли он частной собственностью. Но, если он вдруг решит взять кредит в банке, наличие недвижимости будет иметь важное значение для оценки его платежеспособности.

«Умными» городами занимается и Google. Компания планирует создать на базе одного из микрорайонов Торонто в Канаде целый «умный» город, где, как ожидается, все действия каждого из жителей будет анализировать специальная система, контролирующая перемещения, здоровье и – самое главное – покупки человека.

Toyota тоже начала строить город-утопию Woven City, где люди, роботы и искусственный интеллект будут существовать в одной экосистеме. Это будет полностью управляемое место, в котором исследователи, инженеры и ученые свободно тестируют беспилотники, робототехнику, умные подключенные дома, искусственный интеллект и многое другое в реальной среде.

Woven City – это 70 гектаров земли с полностью автономной экосистемой на месте бывшего автомобильного завода Toyota у подножия горы Фудзи. Предполагается, что в «городе будущего» будут специальные дороги для пешеходов, велосипедов и автономного транспорта с нулевым уровнем выхлопов углекислого газа, а дома из дерева также обеспечат минимум его выбросов, причем их крыши будут вырабатывать солнечную энергию. Компания заявляет, что датчики с искусственным интеллектом в домах будут автоматически контролировать здоровье и потребности жильцов, а новое поколение домашних роботов станет сиделками для пожилых жителей, нянями для совсем маленьких и репетиторами для школьников. Ожидается, что уже в начале 2021 года в Woven City заселится около 2 тыс. человек.

Похоже, «умные» города могут стать нашим ближайшим будущим. Власти многих стран, в первую очередь развивающихся, прикладывают максимальные усилия для ускорения урбанизационных процессов, поскольку цифровизация экономически более эффективна на территориях с высокой плотностью населения.

Саудовская Аравия собирается построить поистине супергород будущего посреди пустыни. Новый город решили назвать Неом. Планируется, что он будет расположен на побережье Красного моря, недалеко от границы с Иорданией. По словам инициаторов проекта, город должен обогнать по уровню развития Кремниевую долину, Голливуд и Французскую Ривьеру вместе взятые. Естественно, управлять городом будет искусственный интеллект, а обслуживающим персоналом для жителей мегаполиса будущего должны стать роботы.

А, вот, как видит Департамент информационных технологий Мэрии Москвы «образ москвича в 2030 году».

 1. Технологии становятся частью тела людей • в организм вживляются медицинские устройства; • искусственный интеллект выявляет заболевания на ранней стадии и назначает лечение; • средняя продолжительность жизни возрастает до 120 лет.

2. Связь биологических и цифровых возможностей • личный цифровой помощник с искусственным интеллектом встроен в каждое «умное» устройство; • искусственный интеллект помогает выполнять повседневные бытовые задачи.

3. Работа • физический труд практически исключен, внедрено широкое применение роботизированных технологий; • задача человека – созидание, руководство и контроль.

Аналитики IT-компании Gartner предсказывают, что к 2023 году поведение жителей некоторых крупных городов будет отслеживаться при помощи «Интернета поведения» (Internet of Behavior, IoB).

В 2023 году уже 40 % населения мира будет задействовано в системе IoB, а в дальнейшем система Internet of Behavior охватит весь мир.

IoB станет продолжением Интернета вещей, будет контролировать и оценивать жизнедеятельность граждан, чтобы стимулировать их к желательному поведению.

Gartner предполагает, что к 2024 году Всемирная организация здравоохранения (ВОЗ) включит онлайн-шопинг в перечень психических аддиктивных расстройств, поскольку «новые методы стимулирования покупок» и навязчивая персонализированная реклама будут способствовать деформации личности.

Разрыв между желаемым и действительным у многих жителей планеты будет нарастать, соблазнов будет становиться все больше и больше, а возможностей у людей, не принадлежащих к элитам, будет меньше.

Возможно, лет через двадцать весь мир начнет походить на одну большую компьютерную программу, в которой люди-муравьи будут четко знать свое место и роль в жизни – в соответствии со своим социальным рейтингом, баллы в который будут получать практически с рождения, например, через систему «Интернета Поведения». А контролировать эту программу будет искусственный интеллект.

Впрочем, есть и другой вариант – место искусственного интеллекта на вершине социальной пирамиды на некоторое время займут сверхлюди. Но, скорее всего, лишь на время.

★2
2 комментария
а эта книга в формате FB2 есть?
avatar
Разве мог Творец замыслить такой скучный не зависящий  от человека мир? В котором человек высчитан, просчитан и лишен свободы воли. Если все продолжится в том же русле будет очередной возврат в каменный век=) Где человек почувствует себя человеком и его жизнь будет в его руках, а не зависеть от компьютерного приложения и ошибки кривого кода программиста системы=)


В противном случае  человек как  вид тупиковая ветвь млекопитающих=) И искусственному интеллекту он не интересен и будем им же защищен=)




Хотя можно попробовать с ней или ним договориться или нейтрализовать=)


Таким макаром понятие хакер скоро станет тождественно понятию террорист
Система себя любит и бережет=)
avatar

теги блога Андрей Колесников

....все тэги



UPDONW