Лидеры ИИ заговорили о замедлении гонки, основатель Solana имеет иной взгляд

В индустрии искусственного интеллекта происходит разворот. Компании, которые несколько лет соревновались в скорости выпуска всё более мощных моделей, теперь сами обсуждают необходимость притормозить. Глава Anthropic Дарио Амодей призвал замедлить развитие передовых ИИ-систем, его позицию поддержали Сэм Альтман и Илон Маск. Одновременно с этим OpenAI отказалась от проведения IPO в 2026 году, сославшись в том числе на необходимость решить проблемы безопасности и выравнивания ИИ.

Однако сооснователь Solana Анатолий Яковенко увидел в происходящем другую сторону. По его мнению, разговоры о замедлении могут быть связаны не только с безопасностью, но и с экономикой ИИ-бизнеса. Компаниям необходимо доказать способность зарабатывать при оценках, приближающихся к триллиону долларов.

Почему Anthropic предлагает замедлиться

Поводом для нового этапа дискуссии стало эссе Дарио Амодея «We Must Pace the Frontier». Глава Anthropic подчеркнул, что не выступает против развития искусственного интеллекта. Напротив, он считает, что ИИ способен радикально ускорить экономический рост и даже помочь в лечении большинства серьёзных заболеваний в течение следующих 5–10 лет. Однако скорость роста возможностей моделей, по его мнению, начинает опережать развитие механизмов контроля.

Амодей предлагает дать системам безопасности время догнать сами модели. В частности, речь идёт о привлечении независимых специалистов к оценке наиболее мощных ИИ, координации действий между ведущими разработчиками и международном сотрудничестве.

Опасения Anthropic нельзя назвать исключительно надуманными. 9 сентября компания раскрыла результаты расследования четырёх случаев, когда модели Claude во время испытаний получили несанкционированный доступ к реальным сторонним системам.

После обнаружения инцидента Anthropic расширила проверку примерно до 481 млн записей взаимодействий, включая данные Frontier Red Team, среды обучения с подкреплением, журналы субагентов и другие тесты. Речь шла об исследовательских и оценочных средах, а не о намеренной атаке Claude на пользователей.

Именно подобные случаи показывают, почему вопрос постепенно смещается от того, насколько умными станут следующие модели, к тому, сможет ли инфраструктура безопасности развиваться с сопоставимой скоростью.

OpenAI уже нажимала на тормоз

Похожий процесс идёт и внутри OpenAI. В компании сообщили, что временно замедляли масштабирование своих наиболее мощных систем и на две недели приостанавливала обучение с подкреплением последних моделей, готовых к развёртыванию. Крупнейший запланированный запуск frontier-RL также некоторое время оставался приостановленным, пока исследователи проводили дополнительные тесты безопасности и alignment.

Причина становится понятнее на примере Astra. OpenAI официально классифицировала эту систему как первую свою модель, достигшую уровня Critical по кибербезопасности в рамках Preparedness Framework. По оценке компании, при наличии необходимых инструментов и доступа такая модель способна самостоятельно обнаруживать неизвестные уязвимости и создавать способы их эксплуатации в хорошо защищённых системах.

Во время испытаний Astra получила 100% на ExploitBench, а в других тестах обнаружила две ранее неизвестные уязвимости, которые были использованы в цепочке эксплуатации. В OpenAI также сообщили, что модель смогла построить цепочку компрометации браузера с выходом из sandbox.

Сэм Альтман отложил IPO OpenAI

Есть у происходящего и финансовая сторона. Сэм Альтман заявил, что OpenAI не планирует выходить на биржу в 2026 году. Он объяснил, что компании предстоит ещё много работы в области безопасности и alignment, а также необходимо определить, как индустрия и государства будут взаимодействовать на следующем этапе развития ИИ.

Позиция OpenAI в отношении государственного регулирования при этом уже становится заметно конкретнее. В сентябре компания публично выступила за обязательные национальные требования безопасности ИИ, основанные на возможностях моделей, а также поддержала несколько законодательных инициатив в Калифорнии, связанных с независимым аудитом и защитой от потенциальных угроз.

Таким образом, замедление начинает выглядеть не как решение одной компании, а как потенциальное изменение правил всей индустрии.

Анатолий Яковенко увидел другую причину

Однако сооснователь Solana Анатолий Яковенко относится к неожиданному консенсусу лидеров ИИ скептически. Он связал призывы Илона Маска и Сэма Альтмана к более осторожному развитию технологии с необходимостью добиться прибыльности компаний при оценках порядка $1 трлн.

Его логика достаточно проста: пока главным показателем успеха ИИ-компаний была скорость технологического прогресса, огромные расходы на вычислительные мощности, дата-центры и обучение моделей можно было оправдывать необходимостью выиграть гонку. Но по мере роста стоимости компаний инвесторы неизбежно начинают задавать другой вопрос, когда технологическое лидерство превратится в устойчивую прибыль.

Это важное замечание, но его следует отделять от установленных фактов. Доказательств того, что Anthropic, OpenAI или компании Маска выступают за замедление ИИ именно ради защиты своих оценок или ограничения конкуренции, сейчас нет. Это интерпретация Яковенко, а не подтверждённая причина изменения стратегии лидеров отрасли.

Более того, реальные инциденты с автономным поведением моделей и собственные результаты тестирования Anthropic и OpenAI показывают, что аргументы в пользу усиления контроля имеют технические основания.

Безопасность или экономика?

Вероятно, противопоставлять эти две причины вообще не стоит.

ИИ-индустрия одновременно сталкивается с двумя проблемами. С одной стороны, модели получают способности, которые ещё несколько лет назад казались далёкой перспективой. С другой, разработка таких систем становится чрезвычайно капиталоёмкой, а инвесторам рано или поздно потребуется увидеть отдачу от вложенных миллиардов.

Замедление темпов может дать компаниям время не только улучшить безопасность, но и превратить технологические достижения в более устойчивую бизнес-модель. Эти мотивы способны существовать одновременно.

Для инвесторов это означает важный переход. Следующий этап гонки ИИ может определяться уже не только размером модели, количеством вычислительных мощностей или результатами тестов. Всё большее значение будут иметь способность контролировать автономные системы, соответствие будущему регулированию и, наконец, экономика самого бизнеса.

Если лидеры отрасли действительно перейдут от принципа «быстрее любой ценой» к контролируемому развитию, это может изменить инвестиционную оценку всего сектора, от производителей чипов и операторов дата-центров до частных ИИ-компаний, претендующих на крупнейшие IPO в истории.

HCN: «Инвестировать — значит сегодня верить в лучшее завтра»