Маркиз Лафайет, почему же, раз он еще жив — значит, дождался! Буквально два дня назад слушал интервью с ним на подкасте MFM ( My first million)
не уверен, что миру нужен еще один такой зануда

Сергей Викторович, RAG — это совсем другая история. Там тоже нужна нейронная сеть для генерации Embeddings, но их надо генерить только один раз, для конкретного запроса, если что то опрашивать в real time (Для начального наполнения векторной базы данных — эти embeddings тоже надо вызывать, и вызывать много, но это надо делать один раз, и можно подождать -  там время некритично)

Короче — RAG — это та штука, которая, наверное, могла бы работать на обычном PC без проблем (для прототипирования — сгодится)

Забыл упомянуть еще момент — при наполнении векторной базы данных — хорошо еще сделать правильный Chunking (разбиение на куски) — и — возможно — суммирование знаний / сжатие текстов, чтобы убрать из них всю «воду» — для этого тоже желательно использовать отдельную LLM-ку, но она не обязательно должна быть слишком умной (разбиение на куски и суммирование — не сложные задачи). Тут размер контекста важней «умности» модели.  Какая нибудь небольшая Gemma или Granite — подойдет. И тут уже надо — вместе с embedding — моделью, которая будет работать на том же железе — наверное как минимум 32 гига памяти, и чтобы проц не слишком медленный. Все это без правильных GPU будет тошнить с скоростью улитки, но заполнение векторной БД — это надо сделать всего один раз, можно и подождать.

Блин!!! забыл упомянуть еще один момент — если база знаний в разных форматах типа pdf / word или упаси господь отсканированные документы, которые еще надо в текст перевести, или диаграммы какие нибудь — вот тут вы попали. Потому что — чтобы перевести все эти разные форматы в удобноваримые логичные chunks — тут никакой локальной модели не хватит, конечно же. Тут нужна приличная коммерческая модель, мульти-модальная, чтобы понимала все форматы. Готовьтесь платить за токены, если этот сценарий описывает Ваш случай !

когда был в Лондоне года три назад, специально зашел в магазин Чичваркина.
Дорого, богато. Большой магазин, на 2-х этажах. Посетителей — кроме меня — было немного. Ничего не купил ессно. Как сертифицированный нищеброд — я вина дороже 10 долл за бутылку не покупаю. 

Владимир Гончаров, газогенераторные машины — целлюлоза нагревается в отсутсвии кислорода и превращается в CO (угарный газ) — который и подавался в двигатель, реагируя там с O2 из воздуха, и превращаясь в CO2.
Кажется, получается очень экологично в плане выхлопа — никаких диоксидов серы и прочей гадости. Хотя, там и побочных всяких газов было дофига, наверное

Йоганн, «Приплюсуем дрожжи, реактивы для раскисления и удобрения браги — еще 15 руб на кг мелассы»  (15 руб на кг ???) — это дороговато будет. Я только что за килограм мелассы рубль заплатил, откуда такие цены на дрожжи ??
Электричество можно сп… дить или нагревать чан дровами (дрова — тоже сп… дить у соседей, кончено же)

БТС-Золото-  в этом переименовании есть огромный смысл! Новые владельцы — явно фанаты корейской супер-группы BTS !!
Отсюда идет куча возможностей для Line Extension и коллабов всяких
В корее же любят золото, и вообще все блестящее. 

Иски от группы BTS — тоже маловероятно. В конце концов, они не копают золото, а БТС-Золото — не выступает с концертами