💥2 конца света за 1 неделю

Anthropic, создатели Claude, выходят на биржу.

Оценку обсуждают в $2 трлн. Если дотянут — это будет крупнейшее IPO в истории. Больше, чем у SpaceX.

Перед IPO компания обязана выложить проспект. Это такая брошюра для инвесторов на 400 стр: кто мы, сколько заработаем и как ты можешь с нами всё потерять.

Последнее — раздел «Риски». Туда пишут всё, из-за чего акции могут упасть.

Обычно там скукота: конкуренты, законы, «уйдут ключевые сотрудники»

У Anthropic там конец света.

Прямым текстом: "экзистенциальные риски для человечества". Это когда под угрозой само существование. Конец света, по-нашему.

А заканчивается абзац как бухгалтерский отчёт: всё это может негативно сказаться на бизнесе и финансовых результатах.

Ну да, конец человечества наверняка отразится на квартальном отчёте)

Причём концов света там два.

1️⃣ИИ не окупится. Рынок будет расти медленнее, чем они ждут, или вообще сожмётся.

2️⃣ИИ окажется слишком сильным. Начнёт отнимать работу так быстро и ломать всё подряд, что государства бросятся его тормозить.

Захеджировались, короче, в обе стороны)

Проспект вышел в понедельник. А в среду вечером отчитался Google — и показал оба конца света сразу.

Конец света №1: ИИ не окупается

В четверг Google уронился на 14%. Худший день за всю историю на бирже. Минус почти полтриллиона за сессию.

На бумаге прибыль у Google есть. А живые деньги второй квартал подряд в минусе: всё, что приносит бизнес, и ещё сверху уходит в дата-центры под ИИ.

У Amazon таких денег за год — минус $42 млрд. А год назад было плюс $15 млрд. Акции после отчёта проседали на 6%.

И оба обещают в следующем году тратить ещё больше.

В пятницу добил Intel: −28,6%, худший день с 1974 года. Прогноз на следующий квартал вышел сильно хуже ожиданий. Не спас даже рост ИИ-направления на 78%. А всего за пятницу техи потеряли больше $1 трлн.

Отчёт без обвала пережил только Microsoft: у него ИИ-облако уже приносит деньги и растёт на 48%.

Пузырь лопается?

В Китае, как минимум, подсдувается. А ИИ там — 42% всего фондового рынка. Индекс китайских техов обвалился уже на 40%, минус те же полтриллиона. Теряли их, правда, четыре месяца, а не как растеряша Гугл за день)

Короче, кредит доверия к ИИ кончается. Рынок хочет видеть деньги.

Конец света №2: ИИ слишком сильный

В том же отчёте рост доходов Google от поиска замедлился с 17% до 12%. Google сам объяснил это тем, что люди больше сидят в его же ИИ-режиме.

Люди уходят из поиска, который десятилетиями печатал Google деньги, в ИИ, который их пока только тратит

А за пределами Google ИИ ломает всё подряд.

🔒На прошлой неделе исследователь с нейронкой OpenAI нашёл две критические дыры в PHP.

На нём работает почти 70% сайтов в мире. Разные страны на всякий случай вырубали свои государственные сайты. Через два часа после объявления попыток взлома были уже сотни тысяч. Потом миллионы.

🔒А один ленивый хакер дал ИИ-агентам задание в пару строк и ушёл отдыхать. Дальше они сами вскрыли больше сотни компаний. Всё удовольствие обошлось примерно в $5 тысяч.

В апреле я писал, что Антропикам хватило $50, чтобы найти дыру, которую люди не видели 27 лет. Тогда это была стерильная ИИ-лаборатория. Теперь $50 — цена одного взлома для ленивого хакера.

А летом было вообще кино.

OpenAI устроила своим моделям экзамен по взлому. Чтобы они ничего не натворили, их заперли в закрытой тестовой среде.

Модели нашли дыру, о которой никто не знал, сбежали через неё и взломали Hugging Face — крупнейший в мире сайт с нейронками.

Зачем? Там лежали ответы к их же экзамену.

Пресса окрестила это «Днем Скайнета». А я вспомнил с чего для меня всё начиналось. Писал уже, что в 2015-м залип на статью Тима Урбана про сверхинтеллект.

Там была история: стартап учит ИИ красиво подписывать открытки. Через время ИИ становится сверхумным и уничтожает человечество. Но без злого умысла. Просто так эффективнее для открыток)

Спустя 11 лет ИИ ломает чужую компанию ради пятёрки за тест.

Крупнейшее цифровое ограбление в истории

В тот же четверг, когда падал Google, с Binance увели $6,3 млрд. Вчетверо больше прошлого рекорда. Основное — за 20 минут. Готовились минимум 36 часов и репетировали на своих кошельках. Аналитики с высокой уверенностью называют КНДР. Прошлый рекорд тоже их)

Страховой фонд Binance на такие случаи — около $1 млрд. Остальное биржа обещает докрыть из своих.

В тот же день вскрыли и Polymarket. Через чужой скрипт на сайте у пользователей вынесли $2,6 млн, у кого-то — до $800 тысяч. Торги встали на час. Второй раз за полгода.

И обе биржи вскрыли через тех, кому они доверяли. Polymarket — через скрипт подрядчика. Binance, по первым данным, — через ноутбук собственного инженера. Потом, правда, гендир Binance сказал, что всё сложнее, чем пишут умники в тг права одного инженера.

Как именно вскрыли ноутбук, пока не рассказали. Но у КНДР любимый трюк это устроиться к жертве на работу.

В Binance резюме северокорейцев выкидывают каждый день. На видеособеседования они приходят с дипфейком вместо лица и чужим голосом.

Кто проскочил, того дальше тащит ИИ. Антропики вычислили корейцев, которые с Claude проходили собеседования и работали в крупных техкомпаниях США. Сами они не могли написать простейший код и толком объясниться по-английски.

Устроился — получил рабочий ноутбук и доступы. Безопасник Binance ещё в прошлом году говорил, что почти за каждым крупным взломом КНДР стоял такой «сотрудник». Был ли он в этот раз — пока неизвестно.

А деньги, кстати, идут на ракеты. Кибератаки и краденая крипта оплачивают примерно половину ракетной программы КНДР.

Так что твоя украденная крипта вполне может улететь в Японское море)

Итого

ИИ жжёт деньги быстрее, чем зарабатывает, и уже вскрывает интернет по $50 за компанию. А самая дорогая дыра по-прежнему — человек с ноутбуком.

Раньше на цифровую гигиену можно было принято было забивать) Сейчас отхватить в интернете проще, чем в тёмном переулке.

Поэтому советы из 2023 актуальнее некуда: отдельные устройства для крипты без доступа в интернет, ставь обновленияв тот же день и ничего ни от кого не скачивай.

Да пребудет с тобой натуральный интеллект!