Как сообщает InfoWorld, модель Bonsai 27B от PrismML насчитывает 27 млрд параметров. Исходная версия занимает 54 ГБ, тогда как 1-битный квантованный вариант весит всего 3,9 ГБ и может разместиться на смартфоне.
По заявлению PrismML, компактная версия сохраняет значительную часть точности более крупного варианта. Для этого используются специальные низкобитные ядра, разработанные для гибридной архитектуры внимания. Bonsai 27B рассчитана на многошаговые рассуждения, структурированные вызовы инструментов и визуальные задачи. Модель также поддерживает агентные циклы управления компьютером, сохраняя связность на протяжении многих шагов.
1-битная версия поддерживает контекст на 262K токенов, спекулятивное декодирование и flash attention. Веса модели доступны по открытой лицензии Apache 2.0.
Автор материала запускал Bonsai 27B через LM Studio 0.4.20 на Windows 11. Для теста использовался компьютер с шестиядерным AMD Ryzen 5 3600, 32 ГБ оперативной памяти и NVIDIA GeForce RTX 5060 с 8 ГБ видеопамяти.
Ключевые факты
Исходная версия модели занимает 54 ГБ.
Контекст 1-битной версии составляет 262K токенов.
Веса доступны по лицензии Apache 2.0.
Для теста использовались LM Studio 0.4.20, Windows 11 и NVIDIA GeForce RTX 5060 с 8 ГБ видеопамяти.
Вопросы и ответы
- На каком компьютере уже проверили локальный запуск?
Модель запускали через LM Studio 0.4.20 на Windows 11: Ryzen 5 3600, 32 ГБ оперативной памяти и GeForce RTX 5060 с 8 ГБ видеопамяти.
- Можно ли использовать веса в коммерческом продукте?
Веса опубликованы по лицензии Apache 2.0, которая допускает коммерческое использование при соблюдении ее условий.
- Для каких длинных задач подходит компактная версия?
Контекст составляет 262K токенов; модель рассчитана на многошаговые рассуждения, вызовы инструментов, визуальные задачи и длительные агентные циклы управления компьютером.
Контекст по теме
- Qwen 3.8 27B по умолчанию использует режим рассуждений xhigh17 августа 2026 г.
- Muse Glimmer рассчитана на локальные агентные процессы на PC и Mac11 августа 2026 г.
- RxScanner перевел ИИ-модель на смартфон после сбоя из-за удаленного дата-центра6 июля 2026 г.
- Модель Moebius 0.2B для удаления объектов на изображениях запустили прямо в браузере через WebGPU23 июня 2026 г.