
10 августа компания Meta Platforms анонсировала свою новую языковую модель Muse Glimmer. Эта компактная версия флагманской Muse Spark 1.2 была разработана с целью повышения производительности, при этом требуя минимальных системных ресурсов, сообщает Bloomberg. Модель открыта для бесплатного скачивания на платформе Hugging Face.
Muse Glimmer имеет 30 миллиардов параметров и оптимизирована для выполнения агентных задач непосредственно на устройстве, исключая необходимость облачных вычислений. Благодаря использованию методов квантования, Meta удалось уменьшить размер модели примерно до 17 ГБ, в то время как полная версия требует более 55 ГБ. Это позволяет запускать модель на обычном персональном компьютере, используя всего одну видеокарту, как отмечает Bloomberg. Предполагается, что Muse Glimmer будет выступать в роли ИИ-агента, способного управлять расписанием, организовывать файлы и выполнять другие подобные функции.
Пользователям предоставляется бесплатный доступ к весам Muse Glimmer — числовым значениям, которые определяют поведение модели при принятии решений. Это позволяет загрузить и настроить модель для локального запуска. Однако пользователи несут самостоятельную ответственность за оплату необходимых вычислительных мощностей.
Авто-репост. Читать в блоге >>>

Финаме
БКС Мир Инвестиций












