Liquid AI представила компактную модель LFM2.5-230M для локального запуска на устройствах

Liquid AI представила языковую модель LFM2.5-230M, самую компактную в своей линейке. В ней 230 млн параметров, и она рассчитана на агентные задачи прямо на устройствах: телефонах, роботах и системах автоматизации. Как сообщает MarkTechPost, разработчики сосредоточились не на универсальном рассуждении, а на практических сценариях вроде извлечения данных и работы с инструментами на edge‑оборудовании.

LFM2.5-230M построена на архитектуре LFM2 и включает 14 слоев. Среди них восемь блоков двойных gated LIV convolution и шесть блоков grouped‑query attention (GQA). Контекстное окно достигает 32 768 токенов, словарь содержит 65 536 токенов, актуальность знаний ограничена серединой 2024 года. Модель поддерживает десять языков, в том числе English, Chinese, Arabic и Japanese. Доступны два чекпойнта: базовый LFM2.5-230M-Base для дальнейшего дообучения и instruction‑версия LFM2.5-230M. Оба распространяются как open‑weight на Hugging Face по лицензии lfm1.0.

По данным Liquid AI, модель быстро работает при локальном выводе. На Galaxy S25 Ultra она выдает до 213 tok/s, на Raspberry Pi 5 около 42 tok/s. Инструменты llama.cpp, MLX, vLLM, SGLang и ONNX поддерживают ее изначально. В 4‑битной сборке модель занимает 293–375 MB памяти. В тестах на следование инструкциям и извлечение данных LFM2.5-230M опережает более крупные модели, среди них Qwen3.5-0.8B и Gemma 3 1B IT.

Модель предварительно обучили на 19 трлн токенов. Пост‑обучение прошло в три этапа: supervised fine‑tuning с дистилляцией от LFM2.5-350M, direct preference optimization (DPO) и multi‑domain reinforcement learning. Разработчики отдельно подчеркивают ограничения. Модель не рассчитана на сложные задачи рассуждения, такие как продвинутая математика, генерация кода или творческое письмо. Зато она подходит для локальных пайплайнов извлечения данных и легких агентных систем. Например, для ассистентов, которые переводят естественные запросы в вызовы функций.