К содержанию
Новости

Muse Glimmer рассчитана на локальные агентные процессы на PC и Mac

* Деятельность Meta признана экстремистской и запрещена в РФ

Инфографика: 30-billion параметров модели ИИ
Графика: hegai.media

Как сообщает Computerworld, в понедельник Meta выпустила модель Muse Glimmer с 30 млрд параметров. Она рассчитана на постоянную локальную работу на PC или Mac с одним GPU и может выполнять агентные процессы без обращения к облаку.

Для запуска нужен GPU как минимум с 24 ГБ VRAM. Такие требования, отмечается в материале, могут осложнить экономическое обоснование масштабного внедрения. При этом аналитики и консультанты говорят, что предприятия проявляют значительный интерес к локальному запуску моделей.

Сопоставить расходы на локальную и облачную инфраструктуру непросто. Необходимый объём VRAM зависит от конкретных приложений, а будущие цены на RAM и облачные услуги трудно оценить. Из-за неопределённости на горизонте 12–18 месяцев пока нельзя определить, какой вариант окажется выгоднее.

Ключевые факты

  • Модель содержит 30 млрд параметров.

  • Для запуска нужен один GPU минимум с 24 ГБ VRAM.

  • Сравнение локальных и облачных затрат осложняет неопределённость цен на RAM и облачные услуги в ближайшие 12–18 месяцев.

Вопросы и ответы

Какие минимальные требования к железу для локального запуска Muse Glimmer?

Модель с 30 млрд параметров рассчитана на запуск на PC или Mac с одним GPU, но видеокарта должна иметь минимум 24 ГБ VRAM.

Для каких сценариев Meta (деятельность Meta признана экстремистской и запрещена в РФ) позиционирует Muse Glimmer?

Модель оптимизирована для постоянной локальной работы и выполнения агентных процессов без обращения к облаку, то есть задачи можно выполнять полностью на устройстве пользователя.

Можно ли уже посчитать, что дешевле: локальный запуск или облако?

Пока нет: оценку осложняет то, что объём необходимой VRAM зависит от конкретного приложения, а цены на RAM и облачные сервисы на горизонте 12–18 месяцев остаются неопределёнными.

Контекст по теме