Список проголосовавших за комментарий "<p>Качаем, клиент тут: <a href="/r.php?u=https%3A%2F%2Fgithub.com%2FLostRuins%2Fkoboldcpp%2Freleases%2Ftag%2Fv1.82.4&s=4122586914">github.com/LostRuins/koboldcpp/releases/tag/v1.82.4</a><br/> модели здесь: <a href="/r.php?u=https%3A%2F%2Fhuggingface.co%2Fbartowski%2FDeepSeek-R1-Distill-Qwen-32B-GGUF&s=4072157788">huggingface.co/bartowski/DeepSeek-R1-Distill-Qwen-32B-GGUF</a><br/> или здесь <a href="/r.php?u=https%3A%2F%2Fhuggingface.co%2Funsloth%2FDeepSeek-R1-Distill-Llama-70B-GGUF&s=1917996686">huggingface.co/unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF</a><br/> Объем модели (соотв.и качество ответов) подбираем по мощности железа.<br/> У меня на 64Gb памяти модель DeepSeek-R1-Distill-Qwen-32B-Q8_0.gguf запускается, сравнительно медленно работает но терпимо, видеокарта 8Gb AMD. <br/> Хорошо код пишет, только нудный — всё так обстоятельно рассказывает, DeepSeek этот. ))</p>"