К содержанию
Новости

Liquid AI представила локальную модель LFM2.5-2.6B с контекстом 128K и поддержкой tool calling

Инфографика: 131 072 токенов контекста
Графика: hegai.media

Liquid AI выпустила модель LFM2.5-2.6B для локального запуска на телефонах, ноутбуках, ПК и роботах. Она поддерживает tool calling, многошаговые сценарии и работу с длинным контекстом до 131 072 токенов. В компании называют модель подходящей для agentic workloads, RAG и задач по извлечению данных, где важны локальный inference и низкое потребление памяти.

Как сообщает MarkTechPost со ссылкой на материалы Liquid AI, доступны две версии модели. LFM2.5-2.6B-Base рассчитана на дообучение, а постобученная LFM2.5-2.6B ориентирована на агентные сценарии. Веса опубликованы в форматах GGUF, MLX и ONNX. Также заявлена поддержка llama.cpp, vLLM, SGLang и LM Studio. По данным компании, модели требуется менее 2,5 ГБ памяти, поэтому она может работать на потребительских устройствах без обращения к внешнему API.

При этом Liquid AI отдельно указывает на ограничения LFM2.5-2.6B. Компания не советует использовать модель для agentic coding и задач, где нужны глубокие знания или более высокое качество рассуждений. Тем не менее она подходит для локальных ассистентов, автоматизации внутренних пайплайнов, RAG-систем и сценариев с повышенными требованиями к контролю данных.

В опубликованных бенчмарках LFM2.5-2.6B сравнили с gemma-4-E2B-it (5.1B), gemma-4-E4B-it (8B), Qwen3.5-4B (4.7B) и Qwen3.5-9B (9.7B). По данным Liquid AI, модель показывает сильные результаты в задачах на следование инструкциям и использование инструментов, хотя в части тестов преимущество остается за более крупными моделями. Это отражает компромисс между качеством и возможностью локального запуска на компактном железе.

Ключевые факты

  • Модель содержит 2,69 млрд параметров и поддерживает контекст длиной 131 072 токена

  • Предобучение LFM2.5-2.6B использовало около 34 трлн токенов

  • Веса доступны в форматах GGUF, MLX и ONNX с поддержкой llama.cpp, vLLM, SGLang и LM Studio

  • Liquid AI не рекомендует использовать модель для agentic coding и knowledge-heavy задач

Вопросы и ответы

На каком железе модель реально можно запускать локально и какие требования по памяти?

LFM2.5-2.6B рассчитана на запуск на телефонах, ноутбуках, ПК и роботах. На Apple M5 Max модель выдает до 220 токенов в секунду при использовании менее 2,5 ГБ памяти.

Для каких сценариев модель подходит лучше всего, а где Liquid AI сама не советует ее использовать?

Компания позиционирует модель для agentic workloads, RAG, извлечения данных и задач с длинным контекстом до 131072 токенов. При этом Liquid AI не рекомендует использовать LFM2.5-2.6B для agentic coding и knowledge-heavy задач.

Что нужно команде, чтобы встроить модель в существующий стек без внешнего API?

Веса уже доступны в форматах GGUF, MLX и ONNX, а модель поддерживается llama.cpp, vLLM, SGLang и LM Studio. Есть две версии: Base для дообучения и постобученная версия для агентных сценариев и tool calling.

Контекст по теме