Список проголосовавших за комментарий "Гуру Хренов, да ваш ник вам хорошо подходит!)<br/> Процесс, который я описал, называется дистилляция знаний. Коротко, это когда ты более легкую и быструю модель учишь на основе ответов тяжелой и долгой. В итоге получаешь модель, которая быстрее работает и меньше требует железа. На сколько я помню, это Facebook придумали для трансформеров как раз еще года так 4 назад))"