Список проголосовавших за комментарий "Synthetic, qwen3.6-35b-a3b быстрее и точнее oss 120. и помещается вообще в озу...<br/> на xeon дает 8токенов в секунду вообще без видоекатры.<br/> на любой видеокарте + cpu дает 15токенов.<br/> <br/> на твое видеокарте буде под 120 токенов давать.<br/> разряженные мое модели можно частично на cpu считать слои.<br/> <br/> "