Рецензии на книги | Машина хаоса, или как алгоритмы соцсетей влияют на людей.

Социальные сети вроде Цукбука, Твиттера (ныне Х), Ютуба и Реддита создали молодые технократы в возрасте 20+. Для быстрого роста потребовались большие инвестиции от первых инвесторов (ангелов) и венчуров.

Как быстро развиваться? “Есть правильный ответ, есть неправильный, есть ответы получше и похуже. И математика поможет в них разобраться”.
(There is right answer or wrong answer, a better answer or a worse answer, and math tells us which is which)

Нужны метрики, по которым можно оценивать успех. Главными метриками стали: рост количества пользователей и вовлеченность (время, проведенное в соцсети).

Самая важная функция — система рекомендаций постов, видео, людей, групп (пабликов). Алгоритм оценивал не только вкусы и интересы единичного Васи Пупкина, но динамику групп из сотен таких Вась Пупкиных.

И тут начали происходить удивительные вещи, которые могут шокировать отдельного индивида, но будут закономерны для социолога или психолога.

В 2014-м году Рене Диреста (Renée DiResta) переехала в Калифорнию и устроила ребенка в школу. Она столкнулась с одной проблемой — до 70% школьников не были привиты. Количество непривитых колебалось от школы к школе. Рене исследовала тему и занялась экспериментами. Оказалось, что в Калифорнии есть несколько активных групп антиваксеров. Мотивы разные: религиозные (“Бог о нас позаботится”), веганские (“если правильно питаться, то организм сам справится”), теория заговора (“медицинская мафия нас травит ради своих прибылей”) итд итп.

Рене зарегистрировала свой паблик в Цукбуке (о пользе прививок) и начала его продвигать. Также она проводила эксперименты с разного вида запросами о прививках, здоровье итд. Но в рекомендациях ей активно показывать паблики антиваксеров. Паблики о пользе прививок оказывались далеко позади. Так работают алгоритмы.

Если взять условную домохозяйку, которая хочет получить инфо о прививках, то алгоритмы показывают ей прежде всего антиваксеров. Так повышаются шансы, что она будет вовлечена в дискуссии и будет переходить от одного паблика к другому. Вовлечение растет, как и проведенное в Цукбуке время. Ведь если человек не против прививок, то он не склонен закапываться в поиске информации. Он не будет коммуницировать в пабликах.

При этом, официальная позиция Цукерберга — “Польза прививок научно доказана. Мы настоятельно рекомендуем их делать”.

Перенесемся на 100 тыс лет назад. После рождения, человек много месяцев остается беспомощным и его выживание зависит от окружающих. А сами люди проживали в группах или племенах. Все иные формы просто растворились в эволюции. Мозг устроен так, что комфортный размер группы, с которой есть постоянное общение не превышает 150 человек. Если группа становится больше, то мозг пытается ее сократить до 150 и меньше. У обезьян это число еще меньше. Если группа обезьян становится больше 15 — они нервничают, растет агрессия, быстрее формируется иерархия. При этом, действует групповая динамика. Есть наша группа, есть другие группы. Для выживания надо помогать своим, даже если это идет в ущерб личным интересам.

Вернемся в наше время. В 2010-м среднее число френдов в Цукбуке — 130. Когда в 2013-м рост приостановился, начали тестировать апдейт алгоритмов. Запустили показ в рекомендациях друзей друзей, случайных людей и паблики. По такому же пути пошел Твиттер. Группы или паблики — это была попытка решения проблемы лимита мозга в 150 контактов. Получилось. Вместо своего социального круга пользователя можно было запихнуть в паблики по интересам. Но у пабликов начались схожие с обезьяньими процессы. Оказалось, что самый большой интерес вызывают радикальные паблики. Конформисты “за все хорошее и против всего плохого” не особо популярны.

Еще один баг (или фича для технократов) психики среднего человека — это повышенный интерес к сенсационности и теориям заговоров. Ведь “common sense” слишком скучный.

Как работает групповая динамика? Чем больше группа, тем острее стоит вопрос наказания за нарушение неких правил, морали итд. Чем более человек расстроен и подавлен, тем сильнее он стремится к группе с сильными правилами. Часть таких групп предлагают простой ответ. Ты неудачник не по ряду внутренних причин и обстоятельств, а потому что “они” нам мешают.

До какой степени могут может подняться накал страстей? Предоставим слово Цукербергу и внутренней статистике Цукбука: “Наши исследования показывают, что не важно, где мы проводим линию что разрешено. Часть контента быстро подходит к этой линии. И люди больше склонны вовлекаться в такой контент. Один из самых важных факторов соцсетей, которые мы открыли — люди очень активно интересуются сенсационным и провокационным контентом. Это приводит к снижению качества уровня дискуссии и поляризации общества”.

Отличный пример — Пиццагейт. Возникла теория заговора, сначала как стеб и троллинг, но затем обросла подробностями, “доказательствами” и сотнями тысяч адептов. В 2016-м через Викиликс появился слив записей заказов пиццы. Член избирательной комиссии Хиллари Клинтон Джон Подеста размещал заказы в Comet Ping Pong, пиццерии в Вашингтоне. Содержание заказа объявили секретным кодом, с которым сеть педофилов-сатанистов обменивалась информацией. Не просто пицца “Четыре сыра”, а зашифрованное послание. Все это обросло не только подробностями, но и “свидетелями”. Пиццагейт прокатился по сайтам с фейковыми новостями, в Цукбуке в Твиттере и Ютубе. Американец Эдгар Уэлч написал в соцсетях “Настало время положить этому конец и взять негодяев с поличным”. Он взял ружье, ворвался в пиццерию и потребовал показать служебные помещения. Ведь там держат похищенных детей, он столько раз видел это в роликах на ютубе. Конечно, он ничего не нашел. Кстати, владелец пиццерии получал сотни угроз.

Пиццагейт породил QАnon. Однажды, в сети Реддит появился пост анонима. Он представился работником секретного правительственного подразделения Q. Аноним рассказал, что сеть педофилов-сатанистов — это суровая правда и готовятся массовые аресты либералов в правительстве. Дональд Трамп даст сигнал и все начнется. Движение распространилось по всей Америке, появилась своя символика — буква Q на красном фоне, свой сленг и прочее.

Все это порождало беспокойство “прогрессивной общественности”. Нужно ли принуждать Цука и других ограничивать алгоритмы, когда дело касается политики и здоровья? Позволено ли государству давить на соцсети? Кстати, по словам бывшего работника, Вьетнам поставил ультиматум Цуку. Или блокируйте критику правительства Вьетнама, или мы заблокируем в стране весь Цукбук. Цук пошел на встречу, ибо Вьетнам приносит 1 млрд в год.

Конечно, в 2025 году алгоритмы стали более совершенными. Есть система жалоб, стоп-слов и много другого. Но и способы воздействия на пользователей стали еще более эффективными.

П.С. Все тексты пишу сам.

t.me/mosstart