ИИ создаёт новое ИИ и ускоряется, самосовершенствуется, что опасно.

06 июня 2026, 10:28
|
Олег Ков

Anthropic опубликовала статью о рисках стремительного развития искусственного интеллекта, предупредив, что человечество может не успеть адаптироваться к происходящим изменениям. Компания отмечает, что уже сейчас все активнее использует искусственный интеллект для разработки новых ИИ-моделей. В долгосрочной перспективе это может привести к появлению систем, способных к так называемому рекурсивному самосовершенствованию — ИИ сможет самостоятельно создавать и совершенствовать своих «преемников».

Anthropic рассматривает три сценария будущего: замедление прогресса, сохранение человеческого контроля при резком росте производительности и появление полностью самосовершенствующегося ИИ.

Последний вариант компания считает наиболее опасным, поскольку ошибки ИИ, вызванные несогласованностью его действий с замыслом человека, могут накапливаться по мере создания новых «преемников», пока люди окончательно не потеряют контроль. В связи с этим Anthropic предлагает обсудить возможность международной координации и даже приостановки разработки ИИ-систем по аналогии с договорами об ограничении вооружений, хотя признает, что обеспечить соблюдение таких договоренностей будет значительно сложнее.

❤️ Читайте подробнее на сайте

Канал Frank Media

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.

917

7 комментариев

ничего не будет, чтобы ИИ был хотя бы на уровне человека, потребуется энергии на содержание такой махины на уровне потребления целой огромной страны, как США

Бил Денбро

06 июня 2026, 10:35
Ответить

Бил Денбро, Во-первых, энергоэффективность вычислительных средств растет путь уже не по экспоненте, но быстро. На пороге квантовые компьютеры. Во-вторых, ИИ не нужно быть лучше человека во всем. Тут не идет речь о настоящем искусственном интеллекте. В-третьих, ИИ уже лучше и быстрее почти любого человека по многих задачах. Написание текста, кода, создание рисованных объектом, распознавание различных объектов и т.п.
То. что сейчас ИИ уже угрожает всем в мире изменением привычного образа жизни. Лишение работы как минимум.
Сейчас прошло резкое ускорение после разработки ЛЛМ. Уперлись снова в архитектуру и количество данных, но они уже достаточно «умны», чтобы заменять людей. В компьютером зрении зато идет новый этап, который грозит серьезным рывком в робототехнике.

Миллиардер из Сибири

06 июня 2026, 10:55
Ответить

Миллиардер из Сибири, вот вопрос куда людей то девать… (ну разве что позволить большей части вымереть). Долгове время большая часть людей пахала в полях. Относительно небольшая часть — в мастерских, но требовались скиллы, нарабатываемые годами.

Потом пошло массовое производство, разделение задач и снижение требований к скиллам — потребовались массы людей под это. Резко повысили эффективность работы в полях и массы людей перешли в производство. А потом для сохранения прибылей и замедления инфляции в части бытовых сценариев массам производства была выдавлена в Китай и подобное. Людей пришлось занимать сектором услуг и всякой низкопроизводительной хренью.

Если ИИ выдавит людей из этого сектора — чем теперь их занять? Ну разве что безусловный доход (а скорее — паёк) выделить и подождать пока население усохнет само. Можно конечно выдать оружие и сказать что светлое будущее в соседней стране :)

Сиделец

06 июня 2026, 11:04
Ответить

Бил Денбро, С энергией что-нибудь придумают. И зачем столько энергии?

Олег Ков

06 июня 2026, 10:58
Ответить

Олег Ков, почитайте про эту тему поподробнее)

Бил Денбро

06 июня 2026, 11:29
Ответить

это же не ядерное оружие. Играться в самосовершенствующийся ИИ уже можно в гараже. И это пока можно отчасти отлавливать по повышенному потреблению электричества и траффика, но скоро наверное это перестанет быть актуальным.