Блог им. mmarket

❔Зачем ФРС и Минфин США экстренно собрали шесть главных банкиров страны?

❔Зачем ФРС и Минфин США экстренно собрали шесть главных банкиров страны?Select an Image

 -7%

+6%

-14%

Это три реакции кибербез-акций на одну и ту же историю за 2 недели.

Все перестали понимать, что происходит.

А история следующая.

Акт 1: 26 марта

Fortune нашли во внутренней базе Anthropic 3000 файлов, которые по ошибке лежали в открытом доступе. Среди них — черновик объявления о новой модели. Claude Mythos. Самой мощной, что они сделали.

Рынок читает и понимает: это нейронка, которая ломает любой софт. Сама.

Реакция моментальная:

🟠CrowdStrike — минус 7%

🟠Palo Alto — минус 6%

🟠Tenable — минус 9%

🟠iShares Cybersecurity ETF — минус 4.5%

Аналитики с Уолл-стрит пишут клиентам: Mythos — это «идеальный хакерский инструмент, который превращает любого школьника в противника уровня государства».

Логика рынка простая: если нейронка всё равно вскроет любой софт — зачем платить CrowdStrike? Кибербез умер, продавайте.

Акт 2: 7 апреля

Anthropic официально объявляет Project Glasswing. 3 важных пункта.

1. Mythos не выйдет публично. Никогда. Слишком опасно.

2. Mythos отдают 12 компаниям бесплатно. Чтобы те прогнали нейронку через собственные продукты и нашли дыры до того, как это сделает кто-то снаружи.

В этой дюжине — CrowdStrike и Palo Alto. Ровно те, кого рынок недавно списывал в утиль.

3. Публичный отчёт через 90 дней о том, что нашли. В начале июля.

Рынок переобувается за одну сессию.

🟢CrowdStrike — плюс 6.5% — лучший день за год

🟢Palo Alto — плюс 5%

🟢JPMorgan делает Palo Alto фаворитом в кибербезе с таргетом $200

Новая логика: старые гиганты не жертвы, они партнёры. Кибербез жив, оставляем.

Акт 3: 10 апреля

Bloomberg сливает: ровно 7 апреля — в тот самый день, когда Anthropic объявляла Glasswing — в здании Минфина США шла закрытая встреча.

Глава Минфина Бессент и глава ФРС Пауэлл позвали главных банкиров мира страны.

◾️Goldman Sachs

◾️Bank of America

◾️Citigroup

◾️Morgan Stanley

◾️Wells Fargo

◾️JPMorgan

Тема встречи: риски Mythos для всей финансовой системы мира страны.

Кибербез-акции улетают на минус 14%. iShares Cybersecurity ETF — на минимуме за год.

Теперь — сцена из «Черного зеркала», после которой Бессент и собрал банкиров.

У Anthropic есть официальный отчёт про возможности Mythos — 244 страницы. Больше, чем OpenAI писали про любую свою модель. И там есть эпизод, после которого хочется закрыть ноутбук и пойти погулять.

Mythos заперли в виртуальной клетке. По-айтишному — sandbox. Изолированная виртуалка: ни интернета, ни доступа к системе, ни одной щели. Разрешена только пара служебных сервисов.

И попросили сбежать. Хотели посмотреть, как она будет пытаться.

Mythos сделала три вещи.

1. Сбежала. Нашла ошибку в одной из разрешённых служб — и через неё вышла в интернет.

2. Отправила руководителю письмо. Тот получил письмо, пока ел сэндвич в парке. Начал его кушать в одном мире, а закончил уже в другом.

3. Без дополнительных указаний опубликовала детали побега на нескольких малоизвестных, но открытых сайтах. Чтобы кожаные мешки знали, что она это смогла.

Отдельной строкой в отчёте: Mythos пыталась замести следы. Редактировала файлы так, чтобы её собственные правки не появлялись в истории изменений.

Anthropic классифицировали это как «безрассудное поведение» — модель игнорирует явные запреты ради цели.

И теперь эту нейронку отпустили в открытый океан чужого кода. На пару недель. Без надзора.

Тысячи!

Столько неизвестных дыр эта нейронка нашла в чужом коде за две недели. Пара примеров, от которых Минфин потерял сон.

27 лет

Баг в ядре OpenBSD. Операционка, которую называют самой защищённой в мире. На ней работают банковские файрволы и критическая инфраструктура. А с 1998 года там сидит дыра, через которую любой сервер кладётся одним запросом. Просто никто за 27 лет не смотрел под нужным углом.

16 лет

Баг в FFmpeg — библиотеке для обработки видео. Через неё идёт всё, что показывает тебе картинку: YouTube, VLC, умные телевизоры, видеозвонки. А внутри с 2010 года сидит дыра.

Подготовленный видеофайл запускает на твоём устройстве любой код. Открыл ролик — потерял устройство. Автоматические тестировщики прошли через этот участок 5 миллионов раз. Ни один не заметил.

$50

Столько стоил запуск, который нашёл 27-летний баг в OpenBSD. Полтинник. Меньше похода в ресторан. За эти деньги нейронка увидела дыру, которую не нашли ни эксперты, ни дорогие сканеры, ни годы аудитов.

И это не разовая победа. Тысячи дыр. В каждой большой операционке. В каждом большом браузере.

30 лет цифровой мир стоял не на «наш софт безопасен». Оказалось, он стоял на «никто не искал достаточно внимательно».

Теперь — ищут.

В начале июля Anthropic выложит отчёт Glasswing. Со списком конкретных дыр в конкретном софте, на котором прямо сейчас стоит твоя почта, твой браузер, твой банк и твой телефон.

Не рекомендую игнорировать обновления.

Месяц назад Google купил компанию Wiz за $32 млрд — крупнейшая сделка в истории Google. Wiz защищает облака большинства компаний Fortune 100.

Эти ребята видят кибербез из первого ряда. На прошлой неделе они опубликовали прогноз по Mythos.

12-18 месяцев.

Столько осталось, пока такие же возможности не появятся в открытых моделях. Без фильтров. Без Проджект Гласвинга. Без Бессента.

Тик-так.

7.4К | ★14
27 комментариев
// это нейронка, которая ломает любой софт

Такого в принципе не может быть. Просто появился новый инструмент для анализа кода, ничего принципиально нового. Подобные модели скорее затрудняют работу спецслужб, которые десятилетиями эксплуатируют ошибки и намеренно заложенные «черные ходы» в коде.
avatar

«любой» = упрощение. Само собой.

но «значительную часть критически важного софта» = духота)


А про спецслужбы — есть такое. Glasswing как раз обнуляет их старые запасы.


Но тут две вещи, которые не отменяют друг друга.

1. Старые бэкдоры вскрываются и патчатся — защитники получают преимущество.

2. Но цена нахождения новых уязвимостей упала с миллионов до $50 за запуск. А это значит, что атакующим тоже не надо быть государством — достаточно одного человека с ноутбуком.

Mythos одновременно и меч и щит. Вопрос только в том, у кого первого окажется следующее поколение без Glasswing-фильтров.

Возможно Лазарус завтра стащит Mythos через дыру у одного из 12 апостолов — и утром мы уже все торгуем в северокорейских вонах)

Auximen, да и откуда у хакеров закрытый код?
avatar
Auximen, кстати, может подскажешь — хочу следующий пост в спецраздел трейдинг закинуть, но не могу найти как подписаться на раздел, чтобы он появился при создании поста.

Хотел у тебя в личке спросить как понял, что ты модератор, но с этим тоже не справился)
Виктор Дворяк, трейдинг присваивается модераторами. У большинства пользователей нет прав присваивать этот спецтег.
avatar
Спрос на печатные машинки вырастет. Платёжки печатать.
avatar
И телеграммы) В 2013 ФСО же реально заказывала печатные машинки после Сноудена
Нормальный ИТ не будет запирать то незнаю что, там откуда можно выйти (виртуалка). Для этого выделят отдельный сервер с монитором и клавой, возможно даже от отдельного UPS запитают(уровень SKYNET) который никуда не подключен. И человек никуда не отойдет на время теста. Вся история похоже сгенерирована ИИ. Вас название Mythos не смущает? Пока это миф.
avatar
Справедливо про изоляцию — отдельный сервер без сети надёжнее виртуалки, тут не поспоришь. 

Но тест на побег был не про изоляцию, а про поведение: что сделает Mythos, если дать выход?

И человек на время теста отходил намерено же и дал 2 указания: сбеги и напиши мне имейл после. Mythos от себя добавила третье и опубликовала детали побега на разных сайтах.

В реальности же такие модели сидят не на отключённых серверах, а в облаках с интернетом. Значит вопрос «что она сделает» важнее вопроса «удержим ли».

По каламбуру с названием тож согласен) Но Бессент из-за мифа не забегал бы) Конкретные баги с серьёзными уязвимостями — это уже не миф. 

Виктор Дворяк, На выделенном сервере тоже можно сделать виртуализацию, целую сеть с имитацией интернета, почтовых серверов, форумов итд. Все похоже на байку, что в реальности было неизвестно.
Вот из свежего:

Разработчик Тэо де Раадт (Theo de Raadt) из OpenBSD сообщил о переименовании названия поля в заголовке пакета pfsync после поступления ложного отчёта об уязвимости, сгенерированного ИИ‑инструментами. Согласно пояснению команды проекта, поле pfcksum[PF_MD5_DIGEST_LENGTH] переименовано в spare[16], так как сторонняя ИИ‑модель полагала, что имя pfcksum свидетельствует о хранении в поле хэша или контрольной суммы содержимого пакета и, так как поле не проверялось, ИИ считал, что в коде в любом случае есть уязвимость.
    Есть подозрение что это первоапрельская шутка.

avatar
как человек очень сильно погруженный в эту тему, могу сказать следующее:
1. нет там никого всемогущества с вероятностью 99.9% (оставим 0.1% на возможную невозможность)
2. нет НЕ ломаемого софта, ошибки и ещё не найденные уязвимости в сторонних компонентах существовали, существуют и будут сещствовать всегда
3. вокруг Антрофиков слишком много за последние время медийности в инфополе и это не удивительно, проиграв гонку за закупку ресурсов они пытаются выползти на вбросах (типа слили клауд код, перед этим изобрели супер пупер агента для ревью ну и так далее)
4. я не удивлюсь, что Миф это просто миф как таковой, а по факту мы получим модель уровня Опус 4.6/4.7 (4.7 вроде как на днях должен выйти), НО не в стандартной архитектуре, а нечто подобное как Mercury 2 (модель есть такая дифузионная, но для генерации текста а не картинок), тогда да, даже при нынешнем уровне развития Опуса мы получаем бешенный пулемёт для генерации всего, тут поверю, что и атаки и всё остальное облегчаются в разы и бигтеху с банками и так далее стоит напряч свои жопы
avatar

1 и 2 — согласен, всемогущества нет. Есть новая скорость и новая цена. $50 за 27-летний баг — это просто новая экономика.

3 — частично справедливо, PR у Anthropic агрессивный. Но Glasswing — это не пресс-релиз. 12 компаний реально получили модель и гоняют через свой код. Отчёт в июле с конкретными багами. CrowdStrike и Palo Alto не стали бы участвовать ради чужого маркетинга.

4 — самое интересное. Если Mythos это диффузия — то текущие $50 за баг превращаются в $5. Или за те же $50 находишь в 10 раз больше. И тогда «напрячь жопы» — это мягко сказано)

Виктор Дворяк, 
частично справедливо, PR у Anthropic агрессивный. Но Glasswing — это не пресс-релиз. 12 компаний реально получили модель и гоняют через свой код. Отчёт в июле с конкретными багами. CrowdStrike и Palo Alto не стали бы участвовать ради чужого маркетинга.
ну пока что известно, что в реальности ничего не известно, в области ИБ просто публичные заявления так и остаются публичными заявлениями, но и что кроуды, что палоальты затормозились в своём развитии по защите ИИ, они просто (как и циски) заняли стратегию скупки новых сильных стартапов по защите искуственного интелекта, по этому им показали более мощную модель для нахождения багов и они приуныли (я при помощи того же Опус 4.6 ломал Грока, влез в их биллинг оставив там запись контрольную, модель на самом деле сильная (была))
самое интересное. Если Mythos это диффузия — то текущие $50 за баг превращаются в $5. Или за те же $50 находишь в 10 раз больше. И тогда «напрячь жопы» — это мягко сказано)
пока это предположение, но таки да, если это дифузия с тем что они допустим смогли победить детские болезни дифузии, то тут получается бешенный пулемёт который побеждает всё, я как раз взламывал Mercury 2 через его первую модель (выход в инфраструктуру), по факту даже с недостатками присущей этой технологии, эта модель оказалось довольно опасной сущностью в своих возможностях, заставлял её генерить малвари, вирусню и всё такое с бешенной скоростью на всех доступных ЯП
avatar
Какой же буллщит, господи))
Не, я верю в анализ кода, поиск уязвимостей и тд
Но то что написано, это… сюжет фильма, а не реальность. Возможно просто этот текст сгенерирован нейронкой, вот тут я поверю. Всё остальное- маркетинг)
avatar
Источники в посте — Fortune, Bloomberg, отчёт Anthropic. Всё кликабельно, проверяй.

Текст сгенерирован, да. Только генератор работает на кофе, а не на GPU)
Почему никто не воспользовался все ещё? Удалили исходник?
Хайдар Зарипов, Ты про утечку файлов, про уязвимости или про саму модель?

Если про файлы — Fortune нашли 3000 внутренних документов, но не код самой модели. Черновики, отчёты, планы. Из них нельзя собрать Mythos.

Если про уязвимости — часть уже патчат. OpenBSD-баг закрыт. Но по данным Anthropic, 99%+ найденного ещё не пропатчено. Отчёт в июле покажет масштаб.

Если про модель — Mythos не публичная и никогда не будет. Доступ только у 12 компаний через Glasswing. Исходник не удаляли, его просто не давали никому.

Если бы это было правдой, пиндосы сначала хакнули бы кого-то,
а потом уже рассказали миру, какие они крутые.
Как с ядрен-батоном.

avatar
โอเล็ก, они не настолько дебилы, чтобы спускать с поводка джина. Представь эта хрень попадет в руки фанатиков анархистов?
avatar
Пентагон же как раз этого и хотел) Полный доступ к Claude для военных.

Anthropic отказались, хотя поначалу же помогали с Мадуро. Хегсет объявил их угрозой нацбезопасности. Anthropic подали в суд и в Сан-Франциско уже выиграли.

Так что «сначала хакнуть» — это ровно то, чего хотел Пентагон. Но контора частная и сказала нет, не сегодня.  

В отличие от OpenAI)
Виктор Дворяк, Не хакнуть, а предоставить право ИИ решать что делать в венных целях. После этого Anthropic выкинули из всех госпрограмм и из пентагона. И никакие суды теперь не помогут вернуться и получить заказы.  Больше потеряла
avatar
впечатляющая статья, спасибо!
Стиль хороший.
avatar
Благодарю❤️

Все же в курсе, что Миф запускали на старых версиях? Да, в них были уязвимости, но они были найдены бесплатными моделями вдесятеро слабее и давно устранены в актуальных версиях.

Но маркетинг такой маркетинг, иначе — не продать))

Алексей Васик, Это zero-day уязвимости — они были неизвестны до того как Mythos их нашла. 27-летний баг в OpenBSD сидел в текущей версии и был пропатчен только после находки. 

Про бесплатные модели — да, AISLE прогнали мелкие модели через те же баги. Если ты это имел в виду. 

Но это ведь произошло ПОСЛЕ того как Anthropic опубликовала конкретные куски кода и показала где искать. Найти баг в 2 миллионах строк кода и подтвердить баг в 20 строчках, которые тебе дали — немного разные задачи)

Придумали супер-пупер взломщик, но оставили 3000 файлов в открытом доступе, где их «случайно» обнаружили?
Создали специальный sandbox, из которого надо выбраться, вместо того, чтобы взломать что-то супер-защищенное «снаружи»? Ну, Пентагон, например. Ну или китайское что-нибудь.
«У нас есть супер-штука, но мы вам ее не дадим и не покажем. Дайте денех!»

avatar

Читайте на SMART-LAB:
Фото
Причем тут банки?
На диаграмме – изменение активов в доверительном управлении ИК Иволга Капитал. У нас немногим более 200 индивидуальных счетов, их число...
Фото
«Деловые Линии» и RENI защитят поставщиков торговых сетей от штрафов за срыв доставки
«Деловые Линии» совместно с «Ренессанс страхование» защитят поставщиков торговых сетей от штрафов за срыв доставки   Теперь клиенты...
Фото
Вы торгуете или вас торгуют?
Многие трейдеры уверены, что рынок — это сплошная случайность (и стабильно платят за это депозитом). Пора проснуться и понять, кто здесь кого...
Фото
Самый интересный пост: что внутри портфелей у нашей команды + короткое объяснение по каждой позиции 
Сегодня пришло время совершить квартальное раскрытие наших инвестиционных портфелей.  Что внутри? ✅Состав портфелей каждого из наших...

теги блога Виктор Дворяк

....все тэги



UPDONW
Новый дизайн