и УЖАСНУТЬСЯ!
Потому что к примеру посмотрел скорость для GLM-5.2
на 8шт H200 квант FP8 — это типа Q8 но с плавающей запятой
ВСЕГО 20tok/sec
---------
После этого я понял, что у меня локально GLM-5.2 таки неплохо работает.
А Minimax-M3 таки вообще летает как космолет, быстрее чем у Selectel.
Иван Семёнов, лотерая, это же отбраковка, как там тестируют насколько хорошо работает разблокированая память? Шина PCIe урезанная, медленно работает и значит если модель не влазит целиков в видюхи, то падает скорость prefill. Гарантий что память хорошо работает, продаваны не дают и не будут давать, разлочил память и дальше еб##сь c ней сам как хочешь, они даже PCIe шину не допаивают, хотя это несложно.
Плюс еще и нормального охлаждения нет, надо доделывать.
Так что тут лучше переплатить и взять че нит другое, типа Radeon Mi60 Mi50.
Или готовый Radeon 9700x или Intel Arc Pro B70
Скорее новый отлив бабла.
Что бывает с деньгами юриков на расчетных счетах, если наворачивается обычный банк ?
Они прощаются со своими бабками.
Получается для юриков имеет смысл загнать все свои деньги в цифровой рубль на счета ЦБ, чтобы такого не происходило.
А вот что будет с банками, если даже только 50% юриков выведут из них свои бабки в ЦБ?