ИИ создаёт новое ИИ и ускоряется, самосовершенствуется, что опасно.

Anthropic опубликовала статью о рисках стремительного развития искусственного интеллекта, предупредив, что человечество может не успеть адаптироваться к происходящим изменениям. Компания отмечает, что уже сейчас все активнее использует искусственный интеллект для разработки новых ИИ-моделей. В долгосрочной перспективе это может привести к появлению систем, способных к так называемому рекурсивному самосовершенствованию — ИИ сможет самостоятельно создавать и совершенствовать своих «преемников».

Anthropic рассматривает три сценария будущего: замедление прогресса, сохранение человеческого контроля при резком росте производительности и появление полностью самосовершенствующегося ИИ.

Последний вариант компания считает наиболее опасным, поскольку ошибки ИИ, вызванные несогласованностью его действий с замыслом человека, могут накапливаться по мере создания новых «преемников», пока люди окончательно не потеряют контроль. В связи с этим Anthropic предлагает обсудить возможность международной координации и даже приостановки разработки ИИ-систем по аналогии с договорами об ограничении вооружений, хотя признает, что обеспечить соблюдение таких договоренностей будет значительно сложнее.

❤️ Читайте подробнее на сайте

Канал Frank Media

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.

ИИ искусственный интеллект прогресс роботизация OpenAI ChatGPT

Олег Ков

Москва

597

96 242

с 4 февраля 2021

7 Комментариев

Бил Денбро
06 июня 2026, 10:35
ничего не будет, чтобы ИИ был хотя бы на уровне человека, потребуется энергии на содержание такой махины на уровне потребления целой огромной страны, как США
0
- Миллиардер из Сибири
  06 июня 2026, 10:55
  Бил Денбро, Во-первых, энергоэффективность вычислительных средств растет путь уже не по экспоненте, но быстро. На пороге квантовые компьютеры. Во-вторых, ИИ не нужно быть лучше человека во всем. Тут не идет речь о настоящем искусственном интеллекте. В-третьих, ИИ уже лучше и быстрее почти любого человека по многих задачах. Написание текста, кода, создание рисованных объектом, распознавание различных объектов и т.п.
  То. что сейчас ИИ уже угрожает всем в мире изменением привычного образа жизни. Лишение работы как минимум.
  Сейчас прошло резкое ускорение после разработки ЛЛМ. Уперлись снова в архитектуру и количество данных, но они уже достаточно «умны», чтобы заменять людей. В компьютером зрении зато идет новый этап, который грозит серьезным рывком в робототехнике.
  +2
  - Сиделец
    06 июня 2026, 11:04
    Миллиардер из Сибири, вот вопрос куда людей то девать… (ну разве что позволить большей части вымереть). Долгове время большая часть людей пахала в полях. Относительно небольшая часть — в мастерских, но требовались скиллы, нарабатываемые годами.
    
    Потом пошло массовое производство, разделение задач и снижение требований к скиллам — потребовались массы людей под это. Резко повысили эффективность работы в полях и массы людей перешли в производство. А потом для сохранения прибылей и замедления инфляции в части бытовых сценариев массам производства была выдавлена в Китай и подобное. Людей пришлось занимать сектором услуг и всякой низкопроизводительной хренью.
    
    Если ИИ выдавит людей из этого сектора — чем теперь их занять? Ну разве что безусловный доход (а скорее — паёк) выделить и подождать пока население усохнет само. Можно конечно выдать оружие и сказать что светлое будущее в соседней стране :)
    0
- Олег Ков
  06 июня 2026, 10:58
  Бил Денбро, С энергией что-нибудь придумают. И зачем столько энергии?
  0
  - Бил Денбро
    06 июня 2026, 11:29
    Олег Ков, почитайте про эту тему поподробнее)
    0
Сиделец
06 июня 2026, 10:58
это же не ядерное оружие. Играться в самосовершенствующийся ИИ уже можно в гараже. И это пока можно отчасти отлавливать по повышенному потреблению электричества и траффика, но скоро наверное это перестанет быть актуальным.

+1
Олег Иванов
06 июня 2026, 14:17
У антропика скоро ипо, можно не обращать внимания на то что они говорят, чего не скажешь чтобы акции продались подороже…
+1

Читайте на SMART-LAB:

Сделки в портфеле ВДО

Иволга Капитал

08.06.2026

😎 Сбережения работают даже на острове

Робинзон Крузо провёл на острове 28 лет. Пока он строил плот и приручал коз, его сбережения могли бы работать сами — окажись в XVII веке сервис «Интеллект». Семь простых вопросов — и сервис...

ВТБ Мои Инвестиции

08.06.2026

RENI представила свой опыт в сфере ИИ на ПМЭФ 2026 и заключила стратегическое партнерство с «Билайн»

Генеральный директор Группы Ренессанс страхование Юлия Гадлиба приняла участие в двух сессиях ПМЭФ: «ИИ-трансформация 2026: от хайпа к окупаемости» и «Рынок труда 2.0: как ИИ перевернул рынок...