Блог им. RationalAnswer

Обучение в формате «хайвмайнда»: как нейронки могут преодолеть свой недостаток

У Дваркеша Пателя в недавнем выпуске подкаста с AI-исследователями обсуждалась интересная идея.

Смотрите, мы с вами много раз обсуждали, что у текущих LLM есть одно из важных отличий от, к примеру, человеческого разума. Люди умеют учиться на собственном опыте и перестраивать собственные нейронные связи. А большие языковые модели после окончания тренировочной фазы остаются в одном и том же состоянии: они при каждой активации как бы «просыпаются» заново в исходном виде, и максимум – могут что-то из подаваемого на вход контекста/ внешней памяти подсосать из того, что с ними после тренировки происходило.

Обучение в формате «хайвмайнда»: как нейронки могут преодолеть свой недостаток

И вот Дваркеш там спрашивает как раз про это: что это, дескать, за ИИ у вас такой дурацкий – когда модель после деплоя может переделать (по поручению юзеров) дофига всяких делов, и ничегошеньки из этого опыта для себя не вынести?

А другой чувак ему возражает: на самом деле, обучение в каком-то смысле уже сейчас происходит. Просто через механизм тренировки следующего поколения моделей, в которые загрузят уже свежий набор данных. Сейчас, условно, новые передовые модели в линейке выходят раз в полгода – а в будущем, может быть, будут уже каждый месяц обновляться, или даже каждую неделю, а потом каждый день…

Получается, в таком сценарии это будет даже немного похоже на то, как обучаются люди: в течение дня ты вывозишь на базе краткосрочной памяти (у LLM – это всякие блокнотики для записушек, которые используются в качестве внешней памяти), а потом засыпаешь, и ночью у тебя происходит формирование долгосрочных воспоминаний и закрепление новых навыков.

Но тут еще будет интересный нюанс: нам интуитивно хочется (опять же, по аналогии с человеком) воспринимать каждого отдельного ИИ-агента как самостоятельного субъекта. А в описанном выше сценарии этим субъектом, способным к самообучению (если ЛЛМкам прикрутят для этого автоматические механизмы, а не в ручном режиме, как сейчас), становится целая модель.

То есть, у такой модели смогут ежедневно независимо работать сотни тысяч ее клонов, а в конце дня все они будут тащить накопленный опыт к «мамке», которая его впитает, и сделает весь завтрашний рой еще умнее. Получается эдакий «хайвмайнд», где каждый индивидуальный агентик может действовать самостоятельно, но эволюционируют они всё равно все вместе на коллективной основе.

P.S. Пока именно в таком виде оно не работает: они там обсуждают, что, во-первых, не все пользовательские логи автоматом идут на вход тренировочного процесса (хотя, как минимум частично это происходит, как мы знаем по Навье-Стоксгейту). А во-вторых, если модель беспрерывно дообучать на новых данных – то у нее там обычно начинается постепенная деменция с деградацией способностей. Но фундаментально это всё равно не означает, что описанная выше картинка не может в итоге быть воплощена в реальность.

* * *

Пишу интересно про финансы и технологии в своем ТГ-канале RationalAnswer.

Данная публикация является личным мнением автора. Мнение владельца сайта может не совпадать с мнением автора.
1.2К | ★1
2 комментария
Тебя зовут на Смартлаб Конфу! Приедешь? )))
avatar
Золотая Жаба, пока что-то не дошло приглашение!

Читайте на SMART-LAB:
Как работает ИИ во взыскании 🌐
Мы уже говорили о том, что ИИ в своей работе активно применяют все ключевые подразделения Займера. Сегодня остановимся подробнее на использовании...
ROE может обманывать – когда высокая рентабельность капитала создается долгом?
ROE часто воспринимается как один из самых простых способов оценить качество бизнеса: чем больше прибыли компания получает на каждый рубль...
Фото
Анна Калугина, генеральный директор ПАО «СТГ», о результатах за 9М2026:
« Третий квартал стал лучшим для нас по темпам роста продаж за последние семь лет: выдачи выросли более чем в четыре раза в сравнении с прошлым...
Фото
Сетевые компании. Прибыль от передачи рухнула у всех в III квартале, но я всё равно планирую покупать их акции! Какие именно?!
3 ноября я написал пост по сетевым компаниям, где подробно разбирал финансовые отчеты по РСБУ за 3 квартал и 9 месяцев 2026г. Но на тот...

теги блога Павел Комаровский

....все тэги



UPDONW
Новый дизайн