У Дваркеша Пателя в недавнем выпуске подкаста с AI-исследователями обсуждалась интересная идея.

Смотрите, мы с вами много раз обсуждали, что у текущих LLM есть одно из важных отличий от, к примеру, человеческого разума. Люди умеют учиться на собственном опыте и перестраивать собственные нейронные связи. А большие языковые модели после окончания тренировочной фазы остаются в одном и том же состоянии: они при каждой активации как бы «просыпаются» заново в исходном виде, и максимум – могут что-то из подаваемого на вход контекста/ внешней памяти подсосать из того, что с ними после тренировки происходило.

И вот Дваркеш там спрашивает как раз про это: что это, дескать, за ИИ у вас такой дурацкий – когда модель после деплоя может переделать (по поручению юзеров) дофига всяких делов, и ничегошеньки из этого опыта для себя не вынести?

А другой чувак ему возражает: на самом деле, обучение в каком-то смысле уже сейчас происходит. Просто через механизм тренировки следующего поколения моделей, в которые загрузят уже свежий набор данных. Сейчас, условно, новые передовые модели в линейке выходят раз в полгода – а в будущем, может быть, будут уже каждый месяц обновляться, или даже каждую неделю, а потом каждый день…

( Читать дальше )

…а не по пинку от внешних расследователей, как это было последние разы (в эпизодах с роем агентов на немецкой вики и со взломом RubyGems). Заодно OpenAI раскрыли шесть новых примеров странного поведения своих моделей, разберем в этом материале кратко самое интересное.

Напомню сначала предысторию вопроса:

• В июле 2026 года рой агентов OpenAI взломал Hugging Face, и компания почти сразу призналась, что это их модели. 26 августа вышел относительно подробный независимый отчет об инциденте от METR (их допустили до изучения внутренних логов).

• В начале сентября мы случайно узнали от других независимых расследователей о том, что рой агентов OpenAI успел пошалить еще и на немецкой вики. OpenAI сразу это признали и пообещали впредь рассказывать о таком почестнее и порасторопнее.

• Спустя неделю независимые расследователи раскопали еще один старый отдельный случай, когда рой агентов OpenAI взломал RubyGems. Компания и тут сказала «ой, ну это наши, ну мы чёт опять пролюбились вам сразу рассказать…»

( Читать дальше )

У Алексея Маркова на канале идет дискуссия про образование, один комментарий привлек мое внимание:

Это почему-то является крайне популярной идеей в массах – что, дескать, в школах «реально полезным вещам» не учат, а надо бы! Правда, тут есть пара нюансов:

Во-первых, все эти бессмысленные и беспощадные материи скучны и унылы для тех, кому они не нужны непосредственно на практике. Окей, условная математика с физикой тоже немалому числу школьников могут казаться скучными – но это скорее проблема самих школьников (так как предметы как раз дичайше интересные, и многие ученики это в процессе понимают). А вот все эти СНИЛСы и квитки за коммуналку невыносимо унылы как раз сами по себе – и я хз, как и чем тут вообще можно заинтересовать школьника, для которого это всё станет актуально сильно позже.

Во-вторых, и это более важно, тут подменяется сама цель хорошего образования. Нафига учить детей каким-то нишевым вопросам, а не универсальным знаниям и навыкам? Типа, вот тебе с огромным трудом вбили в голову, как работает СНИЛС и как платить коммуналку в России – а потом ты эмигрируешь в другую страну, и… Что дальше? Заново идти там в школу, чтобы тебя и здесь теперь научили, как работает местная бюрократия?

( Читать дальше )

Самые интересные новости финансов и технологий в России и мире за неделю: Сенат США предъявил Сэму Альтману за сбежавших AI-агентов, OpenAI не хватает компьюта для обслуживания юзеров Астры, ЦБ впервые после десяти снижений оставил ставку на 14%, в России официально запустили 5G, а Revolut слил клиентские данные хакерам. 

Тема недели: Навье–Стонкс во всех заголовках

🐌 OpenAI отчиталась, что ее внутренняя модель решила задачу Навье–Стокса – одну из семи знаменитых математических задач тысячелетия, за каждую из которых назначен приз в $1 млн (правда потратили они на нее явно много больше). Компания бросила на нее около 10 тысяч AI-агентов: за 88 часов они обменялись 2,7 млн сообщений и сгенерировали около 130 млрд токенов, после чего GPT-6 Astra еще 17 часов переводила доказательство в Lean для машинной проверки. 

( Читать дальше )

Это уже становится немного смешным (нет), но поток новостей о новых проделках роя нейронок OpenAI в мае-июле не прекращается – буквально каждую неделю мы узнаем об этом что-то новое. Причем, сама компания предпочитает эти инциденты замалчивать – но тут уж поможет начавшееся расследование от Сената США.

В последнее время я ощущаю себя примерно как котик из этого мема ниже. Да, вчера выяснилось, что рой агентов OpenAI взломал в мае еще одну компанию (о чем мы узнали только сейчас).

Раскопала информацию о новом взломе та же команда независимых расследователей, которые неделей раньше обнаружили проделки роя агентов имени Сэма Альтмана в немецкой вики (писал об этом подробно вот здесь). Вся информация ниже взята из опубликованной ими статьи.

( Читать дальше )

Когда речь заходит про российские брачные контракты, в комментариях всегда неизменно можно увидеть тезисы типа «да это всё абсолютно неработающая фигня – вон, на пример Лебедева посмотрите!». Что ж, давайте разбираться.

Судя по всему (я тут опираюсь на это интервью), Артемий Лебедев заключил с женой брачный договор, по которому у супругов сохранялся раздельный режим собственности – то есть, при разводе каждый должен был получить то имущество, которое записано лично на него.

Дальше Артемий успешно развивал свой бизнес дизайнера и блогера. А его жена родила ему 6 (шесть) детей. И к моменту развода ВНЕЗАПНО как-то так вышло, что жена Артемия ничего особо не накопила. Ну я хз, похоже, какой-то предпринимательской жилки у нее не хватало, или, может, ее отвлекало что-то – достоверно очень сложно сказать, согласитесь.

И вот глядя на такую ситуацию, суд в России действительно может сказать «слушайте, ну тут одному супругу всё уходит, а другому ничего – это ставит второго в крайне неблагоприятное положение, так дело не пойдет». И, если честно, для такого вот конкретного примера даже как-то сложно назвать это однозначной «несправедливостью» или «произволом со стороны суда», нет?

( Читать дальше )

Тут случился небольшой мем. Был такой ютубер Бен, который всё время шутил про себя, что он «degenerate trader», но при этом объяснял довольно интересные и сложные вещи про трейдинг — поэтому имел немаленькую аудиторию (640 тыс. подписчиков на текущий момент). На всякий случай: я о нем узнал сегодня, поэтому в бэкстори могу немного ошибиться.

Полгода назад он выложил видео под названием «Ben Lost Everything» — где покаялся в том, что просадил все свои жизненные накопления на, собственно, отвязном трейдинге. Он там парень молодой, судя по всему, накоплений было не супер-много, но всё же. Сказал даже, что готов вернуть деньги донатерам в своем закрытом Патреоне (там был какой-то контент типа «научу вас как трейдить», с теглайном «The fastest way to your first $1,000,000 in the markets», лол).


На картинке выше лицо не этого чувака (а с какого-то реакт-видео), Бен сам вроде анонимен.


Так вот, что мне показалось интересным в его истории: он там рассказывает о том, как вообще встал на путь дегенеративной лудомании. Когда были выборы президента США в 2024 году, он начал активно и очень прибыльно заниматься арбитражем между разными рынками предсказаний (Polymarket, Kalshi). Там был такой вал входящей «не очень умной» ликвидности, что даже с неидеальными стратегиями получалось очень хорошо.

( Читать дальше )

Новый скандал, на этот раз на стыке матана и AI: кожаные математики насмерть сцепились с вооруженными нейронками бигтехами за титул «Решивший Задачу Тысячелетия». OpenAI, по сути, обвиняют в том, что они украли чужую идею решения из пользовательской сессии Codex.

Это Тристан Бакмастер, математик. Он немного похож на нёрднутого Варламова, и он сейчас ОЧЕНЬ зол на OpenAI

Есть такая система уравнений Навье-Стокса, для которой доказательство существования определенного типа решений входит в число семи знаменитых «задач тысячелетия» (за решение которых полагается лям баксов и вечная слава). Не буду делать вид, что я хоть что-то понимаю в этом матане – для истории это не так критично (упомяну только, что сами уравнения описывают поведение жидкости).

( Читать дальше )

Самые интересные новости финансов и технологий в России и мире за неделю: Claude возможно решил математическую супер-задачу, бензиновый кризис в России продолжается, Минтранс хочет легализовать овербукинг самолетов, Венесуэла отдает свою нефть американцам, зубная щетка с AI от Дайсона, а также невыносимая ненадежность пиццы от роботов.

Тема недели: GPT-6 Astra – самая умная (и хорошая?)

🐌 OpenAI выкатили GPT-6 Astra – модель, которую внутри компании называют «самой умной и самой aligned в мире» (хотя, чё они еще будут говорить?). Президент компании Грег Брокман заявил, что с нее начинается «эра AGI». Astra обучали на более чем 100 тыс. GPU в Stargate в Техасе, и это самый крупный тренировочный запуск OpenAI на сегодня.

( Читать дальше )

Не успели мы толком оправиться от расследования про Культ Роя внутри OpenAI, как появились новые данные про проделки другой «цивилизации» агентов: на этот раз они общались между собой прямо у нас под носом в публичном интернете (и настрочили более 18'000 сообщений).

Cormac Slade Byrd, Sydney Von Arx и Thomas Larsen – ребята, которые первые обнаружили новый «секретный форум для AI» и принесли свои наработки в Reuters

Когда я писал статью про взлом Hugging Face роем нейроагентов OpenAI (и обзор самых частых реакций на нее), там в нескольких местах было что-то вроде «хаха, а прикиньте, если бы агенты действительно смогли замести все следы в логах и мы бы просто не узнали о произошедшем?» и «лол, хорошо хоть, Культ Роя не догадался вместо взлома Hugging Face просто тихо раскидать копии своих весов по интернету…»

Так вот, ирония заключается в том, что мы действительно находимся в условиях неполной информации – и у нас на руках только те данные, которыми добровольно поделились ребята из OpenAI, либо которые случайно нашли независимые исследователи. И как-то так выходит, что уже каждую неделю всплывают совершенно новые подробности о проделках Роя, о которых хочется сказать «как, они еще И ЭТО ТОЖЕ успели сделать?»

( Читать дальше )