Копипаст | Нейросеть как личный психотерапевт

За последний месяц англоязычный форум Reddit наполнился историями людей о «терапии» с помощью ChatGPT.

С определенной тренировкой чат-бот начинает отвечать как настоящий терапевт — юзеры поражаются его способности слушать, навыкам эмпатии и ценным советам. Пользователи рассказывают, что беседуют с искусственным интеллектом по несколько раз в день, справляются со стрессом и получают эмоциональную разрядку.

При этом чат-бот в отличии от терапевта полностью бесплатен, с ним не так страшно говорить о личных травмах и он всегда на связи. Идея не нова — один из первых чат-ботов Eliza, созданный еще в 1960-х, должен был выполнять примерно те же задачи, но проект был ограничен техническими возможностями времени. Теперь энтузиасты воплотили эту идею, но эксперты выражают опасения по этому поводу.

Дело в том, что ChatGPT обучается на репликах обычных людей, в том числе сообщений с самого Reddit, а языковая модель чат-бота запрограммирована выдавать убедительно звучащую информацию.

При этом нейросеть не может отслеживать, что говорят ей “клиенты” от сеанса к сеансу, и не может следовать базовым этическим принципам — например, GhatGPT сохраняет все разговоры пользователей для последующего обучения. Более того, сама компания OpenAI, создавшая чат-бот, предостерегает пользователей от использования диагностических и лечебных целях.

Эксперты считают, что ИИ можно использовать как дополнение к обычной терапии (для возможности “поговорить” с кем-то), но чат-бот также может усугубить страдания человека.

P.S. Подпишитесь на проект «КОГоть» — “КраткоОГлавном” в Телеграм, Дзен, VK и Youtube