ИИ создаёт новое ИИ и ускоряется, самосовершенствуется, что опасно.

Anthropic опубликовала статью о рисках стремительного развития искусственного интеллекта, предупредив, что человечество может не успеть адаптироваться к происходящим изменениям. Компания отмечает, что уже сейчас все активнее использует искусственный интеллект для разработки новых ИИ-моделей. В долгосрочной перспективе это может привести к появлению систем, способных к так называемому рекурсивному самосовершенствованию — ИИ сможет самостоятельно создавать и совершенствовать своих «преемников».

Anthropic рассматривает три сценария будущего: замедление прогресса, сохранение человеческого контроля при резком росте производительности и появление полностью самосовершенствующегося ИИ.

Последний вариант компания считает наиболее опасным, поскольку ошибки ИИ, вызванные несогласованностью его действий с замыслом человека, могут накапливаться по мере создания новых «преемников», пока люди окончательно не потеряют контроль. В связи с этим Anthropic предлагает обсудить возможность международной координации и даже приостановки разработки ИИ-систем по аналогии с договорами об ограничении вооружений, хотя признает, что обеспечить соблюдение таких договоренностей будет значительно сложнее.

❤️ Читайте подробнее на сайте

Канал Frank Media