Список проголосовавших за комментарий "Beach Bunny, тупее в разы, в зависимости насколько не шаблонные вопросы задавать, по твоей ссылке модели ужаты в 4! раза (с 16 до 4 бит) и там же народ жалуется:<br/> <br/> <blockquote><p>4 битная требует намного меньше памяти, так что целиком запускается на памяти моей 3060. Но качество ответов страдает (очень заметно при попытке стабильно получать качественные ответы)<br/> 8 битную запустил в режиме шаринга с CPU и скорость намного ниже но… но качество хорошее. Случайные вопросы о том как приготовить какой нибудь кордон блю или как копировать файл в линуксе находят ответ сразу а не провоцируют сеть на несвязанный текст.</p></blockquote><br/> <span><a href="/r.php?u=https%3A%2F%2Fhabr.com%2Fru%2Fpost%2F722780%2F%23comment_25340262&s=2145391947">habr.com/ru/post/722780/#comment