У меня домашний голубь ест за год меньше, чем у тебя в месяц на маникюр уходит. Но при этом твой мастер маникюра идет в магнит берет пожрать, и все равно по итогу что ты на еду, что твой мастер кормите моего голубя. Круговорот, все вы на него работаете по итогу.
Анзорик, процессорные npu позволяют использовать для запуска моделей всю оперативную (пусть и медленную) память. Предпочтительнее процессор с npu без видеокарты но с 256 гб опер.памяти, чем 5090 с 32, которая позволит запускать модели быстро, но малого размера.
Миллиардер из Сибири, так суть не в скорости даже, а в больших моделях. Смысла быстро гонять модель 7b никакого нет. А на большее 25гб не хватит. Нейронные модули в процессорах задействуют оперативную память, но их не выпустили еще
Миллиардер из Сибири, чем лучше? там можно кажется допаять памяти и работает одна связка из двух карт. Но это тоже макс 96гб vram, и 407b модели не пойдут.
есть несколько замечаний:
1. вопрос: как по итогу работает кол центр, принес ли он твоему приятелю денег от таких дозвонов? или баги с задержками звука свели это на нет?
2. Ты изучал тему распределения между vram разных видеокарт? чтобы работали параллельно?
3. Процессоры с нейронными ядрами, которые на пк еще не выпущены, а значит использовать оперативную память для запуска моделей это только ограничения в мини пк 128гб (407b модели не влезут, а значит тупые и долго дообучать). В ноутбуках же только 96 макс (128гб и 256гб(4шт) есть но дорого и редкость.
4. Сам ищу применения локальным моделям ии на параллельных gpu, но не могу найти.
Financial_Escalator, а зачем нужна статья и доклад спикера? проще тезисно суть. Мир и так слишком сложен, чтобы пытаться поймать зерно истины в морях пустословия
di_zagr, кто имеет больше прав — три обезьяны с дубиной или одна макака с кожурой от банана? Обезьяны с дубиной сказали, что обезличивается, значит обезличивается. У кого есть вопросы — получит палкой по ушам. Разве тут что не ясно?
«Миф гласит, что американская компания скупила полмира и вообще является чуть ли не теневым правительством и самой влиятельной структурой.»©
Только очень глупые считают, что это не так.
есть несколько замечаний:
1. вопрос: как по итогу работает кол центр, принес ли он твоему приятелю денег от таких дозвонов? или баги с задержками звука свели это на нет?
2. Ты изучал тему распределения между vram разных видеокарт? чтобы работали параллельно?
3. Процессоры с нейронными ядрами, которые на пк еще не выпущены, а значит использовать оперативную память для запуска моделей это только ограничения в мини пк 128гб (407b модели не влезут, а значит тупые и долго дообучать). В ноутбуках же только 96 макс (128гб и 256гб(4шт) есть но дорого и редкость.
4. Сам ищу применения локальным моделям ии на параллельных gpu, но не могу найти.
добро пожаловать в место, где вам подскажут все про трейдинг.