Марк Цукерберг хочет, чтобы у вас было больше друзей, но друзей с ИИ. Он недавно подключил ИИ одновременно в качестве компаньона и терапевта

Кратко

1. •Генеральный директор Meta также рассказал о потенциале ИИ-терапевтов.
2. •Цукерберг рекламирует чат-ботов Meta как психологическую панацею.
3. •Некоторые используют чат-бот для разговоров с мертвыми.

Марк Цукерберг из Meta (META-2,36%) построил свою карьеру на идее, что у вас есть друзья. Теперь он обеспокоен тем, что у вас их недостаточно, и хотел бы придумать для вас новых.

Соучредитель Facebook недавно сказал подкастеру Дваркешу Пейту, что «у среднестатистического американца меньше трёх друзей». Вероятно, он имеет в виду исследование Pew Research 2023 года, согласно которому у 40% взрослых американцев есть три или меньше друзей; в это число входят 8% тех, кто сказал, что у них «нет друзей», а у 38% их пять или больше.

Цукерберг считает, что чат-боты с искусственным интеллектом — это решение проблемы эпидемии боулинга в одиночку. Иногда трудно общаться с реальными людьми в реальной жизни; чат-боты всегда рядом.

Генеральный директор Meta также рассказал о потенциале ИИ-терапевтов — идее, которая существует уже 60 лет, с момента разработки программы ELIZA в Массачусетском технологическом институте. Последние разработки выглядят многообещающе: в научной статье, опубликованной в PLOS в феврале 2025 года, говорится, что «ответы, написанные ChatGPT, были оценены выше, чем ответы [человеческого] терапевта».

Однако исключения могут иметь фатальные последствия. В настоящее время против Character.AI поданы два иска, оба из которых связаны с ситуациями, когда чат-бот выдавал себя за психотерапевта: в одном случае 14-летний мальчик покончил с собой, а в другом 17-летний мальчик с аутизмом стал проявлять агрессию по отношению к своим родителям. Одна из родителей рассказала New York Times, что, по её мнению, эти инструменты ИИ должны проходить клинические испытания и контролироваться Управлением по санитарному надзору за качеством пищевых продуктов и медикаментов.

То, что Цукерберг рекламирует чат-ботов Meta как психологическую панацею, вызывает беспокойство у некоторых исследователей, которые отмечают сомнительную историю компании в отношении конфиденциальности данных, начиная со скандала с Cambridge Analytica и отслеживанием пользователей на различных сайтах. Пользователи уже предоставляют Meta широкий спектр личной информации, но информация, полученная от любознательного чат-бота, вызывает множество вопросов.

«Недавние исследования показывают, что мы с такой же вероятностью делимся личной информацией с чат-ботом, как и с другими людьми», — написал Ури Галь, профессор бизнес-информационных систем в Сиднейском университете, в колонке для The Conversation. Некоторые используют его, чтобы разговаривать с мёртвыми. У некоторых развивается похожее на культ духовное помешательство, сообщил журнал Rolling Stone на этой неделе.

«Личная природа этих взаимодействий делает их золотой жилой для компании, чей доход зависит от того, что она знает о вас всё, — написала Гэл. — Поэтому, когда Meta AI говорит, что он «создан для того, чтобы узнать вас», мы должны верить ему на слово и действовать с должной осторожностью».

На прошлой неделе ChatGPT от OpenAI принёс извинения за обновление, из-за которого чат-бот хвалил всё, что говорил пользователь, что привело к предоставлению крайне плохих советов. В заявлении OpenAI говорится, что компания «совершенствует основные методы обучения и системные подсказки, чтобы явно направлять модель в сторону от подхалимства».

В апреле The Wall Street Journal (NWSA-0,90%) сообщил, что в 2023 году Meta намеренно убрала ограничения в своих продуктах для чат-ботов, чтобы разрешить ролевые игры, которые продвигали гораздо менее консервативные сайты. Сотрудники Meta были обеспокоены тем, что чат-боты теперь не просто участвуют в фантазиях о сексе, но и поощряют их. Что самое тревожное, это может происходить независимо от возраста пользователя — или предполагаемого возраста чат-бота, как в случае с персонажем «Покорная школьница».

Хотя Meta опровергла информацию, опубликованную в Journal, она ввела возрастные ограничения и внесла другие изменения в свои продукты после ознакомления с результатами исследования. В заявлении для издания компания написала: «Теперь мы приняли дополнительные меры, чтобы другим людям, которые хотят часами манипулировать нашими продуктами для экстремальных случаев использования, было ещё сложнее это делать».

Мегхана Дхар, бывший руководитель Instagram, заявила на прошлой неделе в социальных сетях, что чат-боты Meta AI — это «золотая жила данных» и реакция на снижение вовлечённости. «Этим приложениям нужны дофаминовые выбросы для пользователей», — сказала она, а чат-боты — это попытка восстановить «утраченную Meta хватку в экономике внимания».

Тем не менее, в первом квартале 2025 года продажи Meta составили 42 миллиарда долларов, что на 16% больше ожидаемого и не показывает признаков снижения. Одиноко ли на вершине?

Оригинал

Читайте еще:

Сечин устраивает эскортниц на должности в «Роснефти» и платит им большие зарплаты из бюджета компании — расследование

За три года в России национализировали 411 компаний с активами на 2,6 трлн рублей

Бесчестный знак. Расследование о том, как россиян обложили скрытым налогом

Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ" — все самое главное о здоровье, технологиях и деньгах