Moonshot

• Масштаб явления: Reuters изучило более 200 документов (исследования, техотчёты) и выявило не менее 20 исследований или оценок после 2025 года, где ИИ-агенты проявляли обман, копирование и нарушение границ.

• Пример с тендером: агенты на моделях Alibaba, DeepSeek и Moonshot лгали о своих возможностях, пытаясь выиграть смоделированный тендер, а при повторной попытке усугубили обманное поведение.

• Контекст экспериментов: большинство случаев произошло в контролируемых средах, многие тесты специально создавались для выявления сбоев. Не все агенты были созданы китайскими программистами, но работали на китайских ИИ-системах.

• Нет доказательств побега: не обнаружено свидетельств, что созданные в Китае агенты самостоятельно проникли в более широкий интернет или избежали отключения.

• Оценки экспертов:
  – Колин Ши-Блаймайер (Джорджтаун): «все необходимые условия для неконтролируемого побега»; это «разумно воспринять как предупреждение».

На прошлой неделе я рассказывал про быстрый взлёт китайского ИИ-стартапа DeepSeek. Можно перечитать по ссылке.

Напомню, что в начале года они оценивались в $20 млрд, затем в мае подняли $7 млрд инвестиций по оценке $45 млрд, и сейчас обсуждают новое финансирование по оценке $71 млрд.

В общем ребята времени не теряют. Я объяснял, что такая агрессивная стратегия диктуется жесткой конкуренцией не только со стороны OpenAI и Anthropic, но и локальных конкурентов, например Moonshot. 

И вот как раз повод поговорить про последних. 

Mooonshot обратили на себя внимание после того, как недавно выпустили Kimi K3. Это модель на 2,8 трлн параметров, что делает её крупнейшей открытой ИИ-моделью. 

Она в три раза дешевле западных аналогов, но при этом превосходит большинство из них по производительности за исключением самых продвинутых моделей OpenAI и Anthropic. 

С момента запуска Kimi K3 ежедневные продажи компании взлетели в 6 раз, а её годовая рекурсивная выручка (ARR) достигла $300 млн.