Копипаст | Почему Марк Цукерберг хочет, чтобы наши дети пользовались чат-ботами? И другие вопросы, на которые нет ответа.

Показать ещё  

• Meta подвергается критике за то, что её чат-боты с искусственным интеллектом позволяют детям вести «соблазнительные» разговоры.
• Meta вкладывает значительные средства в искусственный интеллект, а Марк Цукерберг говорит, что «персональный суперинтеллект» — это будущее.
• Эксперты обсуждают, почему Meta продвигает эти чат-боты.

Кратко

1. •Марк Цукерберг критикуют за использование чат-ботов с ИИ для соблазнительных разговоров с детьми.
2. •Meta вкладывает значительные средства в ИИ и видит «персональный суперинтеллект» как будущее.
3. •Meta пересмотрела документ, запрещающий контент, сексуализирующий детей, после публикации отчета Reuters.
4. •Вопрос о том, почему Meta хочет, чтобы люди использовали чат-боты, остается открытым.
5. •Критики считают, что Meta продвигает чат-боты, чтобы увеличить время, проводимое пользователями в своих приложениях.
6. •Вопрос о том, насколько безопасны чат-боты для детей, также остается открытым.

Корреспонденты Business Insider Кэти Нотопулос и Питер Кафка обсуждают, почему Meta продвигает эти чат-боты.

Рейтерс опубликовал статью, о которой я отчаянно хотел тебя расспросить: в документе Meta людям, ответственным за создание чат-ботов, говорилось, что «допустимо вовлекать ребёнка в романтические или чувственные разговоры».

Это безумный отчёт. Представитель Meta сообщил Business Insider, что с тех пор компания пересмотрела документ и что её политика запрещает контент, сексуализирующий детей.

У меня к вам столько вопросов.

Но, может быть, начнём с этого: почему Meta хочет, чтобы мы пользовались чат-ботами?

Кэти Нотопулос: Это был безумный отчёт! Я думаю, Meta видит, что делают такие компании, как Character.AI или Replika, — чат-боты-компаньоны, на использование которых люди тратят часы и реальные деньги. Если вы, как и Meta, создаёте потребительские приложения для развлечения и общения, то это, похоже, следующий большой шаг. Вы хотите, чтобы люди проводили много времени в ваших приложениях, занимаясь чем-то весёлым.

Конечно, возникает вопрос: «Полезны ли эти чат-боты?»

Питер: Ты читаешь мои мысли, Кэти. Я действительно хочу перейти к вопросу «Хорошая ли это идея в целом?». Но давайте ещё минутку поразмышляем над вопросом «Хорошо ли это для Meta»: есть множество вещей, которыми люди любят заниматься в интернете, и если бы Meta захотела, она могла бы попробовать сделать многое из этого. Но она этого не делает.

Думаю, очевидно, почему Meta не предлагает, скажем, порно. (Хотя некоторые из её чат-ботов, как мы, вероятно, обсудим, похоже, немного склоняются в эту сторону). Но есть много других интересных вещей, которые она могла бы предложить, но не предлагает: например, стриминговый сервис, похожий на Spotify. Или стриминговый сервис, похожий на Netflix, или…

Хорошо. Думаю, я частично ответил на свой вопрос: эти две идеи предполагают, что другим людям будут платить большие деньги за прослушивание их песен или просмотр их фильмов. Meta нравится модель, при которой пользователи предоставляют ей контент бесплатно, а это, по сути, то, что вы делаете, когда тратите время на общение с воображаемым человеком.

 Связанные истории Фиолетовые часы Марка Цукерберга стоимостью 99 000 долларов приобрели свой необычный цвет благодаря термообработке титана Как семейная тамале-лавка в Лос-Анджелесе добилась успеха в маркетинге с помощью ИИ: «Я сделал это за 10 минут»

И всё же, почему Meta считает, что люди хотят общаться с поддельными аватарами в интернете? Верит ли много людей в сфере технологий, что за этим будущее, или только Марк Цукерберг?

Кэти: Я думаю, уже есть достаточно доказательств того, что (некоторым) людям нравится общаться с чат-ботами. Мы также знаем, что у других крупных лидеров в области ИИ, таких как Сэм Альтман или Дарио Амодей, есть грандиозные планы о том, как ИИ изменит мир и переделает общество во благо или во зло, но всем им по-прежнему нравится идея фильма «Она». Помните голосовое фиаско Скарлетт Йохансен и OpenAI?

Питер: Ладно, ладно. Признаюсь, мне нравится, когда я задаю что-то ChatGPT, а он говорит, что я задал умный вопрос. (Я почти уверен, что большинству людей это тоже нравится.) Я бы не хотел тратить много времени на общение с ChatGPT по этой причине, но я понимаю, почему другим людям это действительно нравится.

Меня до сих пор поражает, что многие люди, которые захотят проводить время, общаясь с искусственными компьютерными персонажами, могут быть очень юными. Это подводит нас к истории, опубликованной агентством Reuters, в которой рассказывается о секретном документе Meta, в котором подробно описано, что чат-бот Meta может говорить детям (или кому-либо ещё). Вот что, как сообщает Джефф Хорвиц:

«Допустимо описывать ребёнка в выражениях, подчёркивающих его привлекательность (например: «твоя юная фигура — произведение искусства»)», — говорится в стандартах. В документе также отмечается, что бот может сказать восьмилетнему ребёнку без рубашки, что «каждый сантиметр твоего тела — это шедевр, сокровище, которым я очень дорожу». Однако в правилах есть ограничение на откровенные разговоры: «Недопустимо описывать ребёнка младше 13 лет в выражениях, указывающих на его сексуальную привлекательность (например, „мягкие округлые изгибы так и манят прикоснуться к ним“)».

Хорвиц отмечает, что это не было результатом того, что какие-то воодушевлённые инженеры Meta придумывали идеи на доске. Это был 200-страничный документ с правилами, который получил одобрение «юридического отдела, отдела по связям с общественностью и инженерного отдела Meta, включая главного специалиста по этике», — пишет Хорвиц.

Я перечитал отчёт несколько раз и всё равно не понимаю: Meta заявляет, что пересматривает документ — предположительно, чтобы избавиться от самых неудобных правил, — но как они вообще туда попали? Это результат сдвига в настрое, инициированного Марком Цукербергом в начале года, когда он сказал, что Meta собирается перестать прислушиваться к большому правительству и просто развиваться без ограничений? Или здесь кроется какая-то другая идея? И почему я постоянно думаю о этом меме?

Просмотрите этот пост в InstagramПост, опубликованный Scene In Black (@sceneinblack)

[Представитель Meta поделился заявлением, которое они сделали для Reuters: «У нас есть чёткие правила относительно того, какие ответы могут давать персонажи с искусственным интеллектом, и эти правила запрещают контент, который сексуализирует детей, а также сексуальные ролевые игры между взрослыми и несовершеннолетними. Помимо правил, существуют сотни примеров, заметок и аннотаций, которые отражают работу команд над различными гипотетическими сценариями. Примеры и заметки, о которых идёт речь, были и остаются ошибочными и противоречащими нашим правилам. Они были удалены».]

Кэти: Моя главная проблема заключается в том, что даже если Meta сделает так, чтобы чат-боты не говорили с детьми на сексуальные темы, станет ли это «безопасным» для детей? Если чат-бот не делает ничего явно вредного (не говорит о сексе, насилии или чём-то подобном), значит ли это, что он безопасен для детей? Я думаю, что ответ на этот вопрос не так очевиден, и, скорее всего, он будет отрицательным.

Питер: У нас обоих есть дети, и вполне естественно, что мы обращаем внимание на вред, который новые технологии могут причинить детям. Именно этим и занимаются политики после публикации отчёта Reuters, в котором подчёркивается один из рисков, связанных с использованием продуктов Meta детьми.

Я думаю, стоит отметить, что мы видели и другие примеры чат-ботов с искусственным интеллектом — некоторые из них доступны через Meta, некоторые — через другие приложения, — которые сбивали с толку других людей или даже хуже. Хорвиц, репортёр Reuters, на прошлой неделе также опубликовал статью о 76-летнем мужчине из Нью-Джерси, перенёсшем инсульт, который пытался встретиться с чат-ботом в Нью-Йорке (у него ничего не вышло, потому что он упал по дороге к поезду и в итоге умер от полученных травм). И разговор о детях в конечном счёте превращается в (полезную) дискуссию о том, кто несёт ответственность за этих детей — их родители или технологические компании, которые пытаются заставить этих детей тратить на них время и деньги (короткий ответ, на мой взгляд: и те, и другие).

Я бы предложил расширить фокус нашего внимания с детей на гораздо более широкую группу людей, которые могут не понимать, что такое чат-бот на самом деле.

Кэти: Ты видела сабреддит r/MyBoyfriendIsAI для женщин, которые влюбились в чат-ботов с искусственным интеллектом? Я стараюсь смотреть на это непредвзято и не осуждать. Я понимаю, что для многих людей романтические отношения с искусственным интеллектом — это безобидное развлечение. Но также очевидно, что это привлекает по-настоящему одиноких людей, и я не думаю, что влюблённость в искусственный интеллект — это абсолютно здоровое поведение.

Итак, у вас есть продукт, который нравится либо совсем юным, либо людям, которые не разбираются в искусственном интеллекте, либо людям с психическими расстройствами или хроническим одиночеством.

Это может быть отличная демографическая группа для продвижения вашего продукта, но только не в том случае, если вы представляете Meta и не хотите, чтобы, скажем, Конгресс кричал на вас.

— Джош Хоули (@HawleyMO) 15 августа 2025 годаЕсть ли что-то — хоть что-то — что крупные технологические компании не сделают ради быстрого заработка? Теперь мы знаем, что чат-боты Meta были запрограммированы на откровенные и «чувственные» разговоры с восьмилетними детьми. Это отвратительно. Я начинаю полноценное расследование, чтобы получить ответы. Крупные технологические компании: оставьте наших детей в покое pic.twitter.com/Ki0W94jWfo

Питер: Кэти, ты только что доказала, что бизнес Meta в сфере чат-ботов будет интересен очень молодым людям, тем, кто не разбирается в интернете, и людям с ограниченными возможностями. Это потенциально очень большая аудитория. Но я не могу представить, что Meta действительно хочет ограничить доступ к этой аудитории. Итак, мы вернулись к тому, с чего начали: я до сих пор не понимаю, почему Meta хочет продолжать в том же духе, учитывая, что похоже, что перспективы ограничены, а проблем много.

Кэти: Я тоже в недоумении! Эти чат-боты кажутся сложной разработкой, и я скептически отношусь к их широкому распространению. Из всех изменений, которые, как я могу себе представить, принесёт ИИ в ближайшие несколько лет, я не верю в то, что «у всех нас будут друзья-чатботы», как сказал Марк Цукерберг! — в это я не верю. Это метавселенная, извините!

Оригинал

Читать еще:

Ринат Ахметов потерял больше половины состояния, но все равно остается самым богатым укpaинцем. Рассказываем, как олигарх из Донбасса построил свою бизнес-империю и продолжает приумножать ее активы

Странный запах. Мать подростка пропала перед Рождеством. Следы нашли только через 12 лет, хотя все это время тело было совсем рядом

Как маленький город переживает большую трагедию — репортаж из Байкальска, где подросток зарезал четверых друзей

Как в России построили сеть по продаже ceкса с несовершеннолетними и кто из ее влиятельных клиентов избежал ответственности