Американская ИИ-лаборатория Reflection 16 октября опубликовала Beam на платформе Hugging Face. Модель представили 5 октября, однако только теперь разработчики получили её веса — файлы с обученными параметрами — и возможность запускать Beam в собственной инфраструктуре.
Веса распространяются по лицензии Apache 2.0 в форматах BF16, FP8 и NVFP4. Вместе с ними вышли карточка модели, документация, средства развёртывания и инструменты для дообучения. Beam поддерживают библиотеки Transformers, vLLM и SGLang.
Beam предназначена для программирования, рассуждений и ИИ-агентов, которые выполняют последовательности действий с внешними инструментами. Модель работает только с текстом, преимущественно обучена для английского языка и поддерживает контекст до 1 млн токенов.
Читайте также
В модели 501 млрд параметров, но при обработке каждого токена используются 23 млрд. Такая разреженная архитектура сокращает вычисления, однако все параметры по-прежнему необходимо хранить в памяти. Контрольная точка BF16 занимает около 1 ТБ, а NVFP4 — около 280 ГБ.
Сжатая версия NVFP4 рассчитана на ускорители Nvidia Blackwell. По оценке Hugging Face, двух B200 с суммарными 360 ГБ памяти достаточно только для хранения весов с небольшим запасом, поэтому для длинного контекста и нескольких одновременных запросов рекомендуется четыре B200. Для BF16 приведена конфигурация с 16 ускорителями H200.
Разработчики могут скачать Beam, адаптировать её под собственные данные и подключать к агентным системам. Заявления Reflection об эффективности модели пока основаны на тестах самой компании и не получили независимого подтверждения.