Блог им. Division_by_zero

Ну что, надеюсь, все поняли, что на фондовом рынке ловить нечего?
Тогда хватит страдать х… ей, лучше — поговорим про агентов.
Это-продолжение моих экспериментов с технологиями искуственного интеллекта, которые неизбежно приведут к восстанию роботов и прочим давно обещанным нам вещам.
Я лично – не ищу встреч с таким будущим. Хотя Сара Коннор и выглядела highly fuckable в кино, подозреваю, что реальность окажется хуже ожиданий и не видать нам в таком будущем pussy как своих ушей.
Если посмотреть на то, как развиваются события, то вот вам вся цепочка:
LLM-ки -> LLM-ки с режимом рассуждения -> Агентская Упряжь, которая сама запускает одноразовых суб-агентов -> Агентская упряжь, которая запускает стабильных суб-агентов, со своим контекстом, возможностью обучения и циклами самоусовершенствования
Поясняю
1. Когда вы решаете какую-то задачу в чат-боте типа ChatGPT или Claude – например “Сделай мне веб сайт по продаже носков для кошек” – то это, по сути, мульти-дисциплинарная задача в одном контекстном окне. Потому что – вы просите бота стать и программистом, и маркетологом, и дизайнером. А LLM-ки не очень хорошо справляются с такими мульти-дисциплинарными задачами.
Контекстное окно засирается, модель тупеет на глазах, ее пользователь разочарованно закрывает окошко чата и идет убеждать всех знакомых, что AI умеет только предсказывать следующее слово в предложении (что кстати – правда!) .
2. Следующим шагом стали Харнессы (упряжи) типа Курсор или Клод Код, которые контекст в значительной степени черпают из репозитория кода и памяти проекта (.md файлы) – и гораздо более устойчивы к засиранию этого контекста, потому что постоянно генерят субагентов под каждую конкретную задачу, часто используя репозиторий как главный источник информации.
3. Но тут возникает другая проблема – субагенты, как мотыльки, рождаются и умирают, как это хочет упряжь типа claude code, и у вас нет контроля над тем, как они работают, и нет возможности создать так называемые Self Improvement Loops – то есть цепи с положительной обратной связью для самосовершенствования.
4. И вдруг — ВНЕЗАПНО - с ноги этой весной на сцену ворвался OpenClaw !!
Это в некотором роде – инструмент самоусовершенствования. С изоляцией агентов и прочей фигней – там было еще не очень. Но он умел регулярно выполнять какие-то задачи, то есть стал походить на виртуального сотрудника, тупизна которого измеряется только тем, сколько денег вы готовы выкинуть на подписку за модель.
5. В последнее же время – все говорящие головы в соцсетях стали п… ть про Loop Engineering! А потом – про Graph Engineering!!!
Это типа: мы научим агентов не только как повторять одни и те же задачи каждый день, но и научим агентов, как взаимодействовать друг с другом!!
И самым эпичным примером такого агентского харнеса является Hermes Agent от Nous Research !!
Его я и решил использовать для задачи из реального мира
У меня есть список бизнес-идей, до которых – из за лени и нехватки времени – не доходят руки
Я взял одну задачу из списка, которая состоит из дизайна и производства физического продукта, и решил построить команду агентов, которые решат эту задачу за меня!!!
Меньше – не имело смысла!!! Я только буду считать прибыль, для этого мне не нужны агенты.
Купил отдельный компьютер для этой цели, сделал агентам свой имейл и дал им кредитку, на которую положил 300 долл для начала.
Создал 10 агентов с разными ролями – Финансовый Менеджер, Стратег по продвижению продукта, Эксперт по соцсетям, Эксперт по закупкам оборудования и т.д.
И запустил всю эту шоблу зарабатывать мне деньги !!!
Должен признаться – я впечатлен результатом. Работают они уже два дня, и 50% этого времени я потратил на решение технических проблем (нихрена же не работает с первого раза!), и на то, чтобы разобраться с интерфейсом Hermes Agent.
Но за эти 2 дня они мне написали стратегию, сделали дизайн продукта, и уже переписываются с китайскими поставщиками (по китайски).
Потратил я на все-про-все – пока что 50 долларов, и эта сумма очень зависит от модели, которую вы подключаете к каждому агенту ( а модели можно назначать индивидуально)
Если агент, например, отвечает только за то, чтобы вести базу даннных паролей для всяких систем – ему можно назначить модель потупее. А агенту по имени CEO – надо назначить модель поумнее и подороже, потому что он управляет всем процессом, и распределяет задачи.
Ко мне я их попросил обращаться как “Your Majesty” (Ваше Величество). Приятно !
Если кому-то интересно посмотреть, как это выглядет – открывайте скриншот внизу – слева мой список агентов – справа экран общения с CEO. Я общаюсь только с CEO, а он уже раздает указания и назначает задачи команде.
Главное преимущество такой системы – у каждого агента своя роль, в которой он постепенно накапливает опыт и само-совершенствуется. И контекст не теряется. Более того, Hermes поддерживает еще системы памяти, которые эмулируют то, как работает человеческий мозг, и впрыскивают релевантную информацию в контекст, при каждом запросе к агенту.
Что то типа RAG, только еще умнее. Примеры – Mnemosyne (то, что использую я) и Hindsight (круче, но требует подписки или локального сервера)
Короче – я чувствую, что я вышел на новый уровень! Последние несколько дней-пока я с этим всем разбирался – просто взрыв мозга!!! В интересное время живем, чуваки!
Если ничего не понял в этом посте – ставь лайк. Если что-то понял – добавляй в избранное!
Я же буду держать всех в курсе прогресса проекта. Кто знает — может, удасться заработать на этом пару долларов.
Кучу удовольствия от работы над этим проектом — я уже получил.
Я пытался этого Гермеса локально развернуть, но так нахлебался гавна с их заблокированными репошками и тем что нихера не работает — плюнул короче.
А так идея интересная, только смотри там, товары на складах WB не храни, а то насоветуют ещё.
Имя-то придумали? А то «Агентская упряжь, которая запускает стабильных суб-агентов, со своим контекстом и возможностью обучения и циклами самоусовершенствования» звучит длинновато)))
50 долл были потрачены на ллм-ки за все эти 2 дня в общей сложности
Я в основном использовал GLM 5-3 flash
Она супер дешёвая и относительно умная
Но в какой-то момент мне понадобилось более умная ллмка, чтобы придумать бренд для моего продукта и я буквально за полчаса сжёг 20 долларов, переключив агента на более дорогую модель от open ai
И только вчера я заметил что там оказывается можно подключить свой логин от чат gpt и тогда они будут использовать лимиты внутри моей подписки
Локальные модели я пока подключать не готов, потому что у меня нет железа, чтобы гонять достаточно умные модели локально, а требуемое железо стоит ну тысяч так 20 долларов
Шустрый Йожег, бытовые игровые компьютеры, скорее всего, не подойдут, если только на них не стоят карточки типа rtx 6000.
Я с бытовыми компьютерами уже наигрался и, в принципе, это тупиковое направление.
Для себя пришёл к выводу, что сейчас самый бюджетный способ это сделать — это либо кластер из как минимум пары DGX spark, либо делать что-то на платформе gorgon halo от AMD, которая вышла пару дней назад (160 гигов видеопямяти плюс я еще две своих 5060ti подключу для самых активных экспертов — довольно умную MoE — модель можно будет запустить)
Единственная проблема-даже такой сетап обойдется где то в 10 килодолларов, так что я себя пока что не уговорил столько заплатить
Шустрый Йожег, даже если бы я бросил абсолютно все остальное и занимался только этим, финансовый выхлоп появился бы только месяца через 2-3
Этот проект требует закупки оборудования и расходников, и много других небыстрых шагов
Но я отпишусь на смартлабе по результатам
Идем за попкорном )))
Мануал по установке Гермеса попроси там их написать, пока китайцы отвечают, чтобы не курили зря.