К содержанию

Вышла локальная Inkling 2 Mini с повторным использованием слоёв

Модель трижды использует средние слои для дополнительных вычислений без увеличения файла весов и может работать на устройстве с 32 ГБ памяти.

В Telegram
Слоистая схема Inkling 2 Mini: чёрные крайние слои и синее среднее ядро с тремя проходами.
Inkling 2 Mini трижды использует один набор из 12 средних слоёв, не увеличивая файл весов.

Thinking Machines Lab 20 ноября выпустила Inkling 2 Mini — модель с открытыми весами для локальной работы с текстом и изображениями. Файл с весами занимает около 20 ГБ: разработчик указывает поддержку компьютеров Apple silicon с 32 ГБ общей памяти и более, а для других платформ рекомендует от 32 ГБ видеопамяти.

МодельРазработчикБаллы
Inkling 2 MiniThinking Machines Lab20
Qwen3.8 27BAlibaba20
Nanbeige4.3-33BNanbeige20

Источник рейтинга: Artificial Analysis Intelligence Index.

В модели 26,4 млрд параметров, но при обработке каждого токена задействуется только их часть. Inkling 2 Mini относится к типу «смесь экспертов»: на каждом слое она выбирает восемь из 128 специализированных блоков. Разработчик указывает 3,4 млрд активных параметров без повторных проходов и 5,4 млрд активаций с их учётом.

Читайте также

Справка. Thinking Machines Lab. Разработчик моделей семейства Inkling и платформы Tinker для запуска и настройки моделей.

Главное отличие Inkling 2 Mini — повторное использование средних слоёв. У модели 24 физических слоя: первые и последние шесть выполняются один раз, а 12 слоёв между ними — трижды с общими весами. В итоге на каждый токен приходится 48 применений слоя. Между проходами передаются промежуточные результаты, а обучаемый контроллер определяет, какую их часть использовать при следующем вычислении.

Thinking Machines утверждает, что такая петля позволяет дольше рассуждать внутри модели и реже записывать промежуточные шаги в ответ. Это заявление разработчика, а не общее преимущество, подтверждённое для всех задач. Независимый сервис Artificial Analysis присвоил модели 20 баллов в своём Intelligence Index — столько же, сколько Qwen3.8 27B и Nanbeige4.3-33B. В этом тесте Inkling использовала примерно на 38% больше выходных токенов, чем Qwen, но в 2,8 раза меньше вычислений по оценочной методике сервиса.

Модель поддерживает контекст до миллиона токенов, принимает текст и изображения, а выдаёт текст. Для локального запуска заявлены Transformers, llama.cpp, MLX и vLLM. Веса распространяются по Apache 2.0, поэтому разработчики могут изучать, дообучать и встраивать модель в свои продукты. Для пользователей в России это даёт возможность тестировать модель на собственном оборудовании без обращения к закрытому зарубежному API.

Одновременно вышла исследовательская версия с настраиваемым числом проходов. Один или два прохода ускоряют генерацию, но могут снизить качество; Hugging Face предупреждает, что этот режим пока не прошёл углублённую оценку. Релиз продолжает линейку Inkling: 12 ноября Thinking Machines открыла веса более крупной Inkling 2 Small.

В этой новости

Похожее

Как процитировать этот материал

«Вышла локальная Inkling 2 Mini с повторным использованием слоёв». hegai.media, 21 ноября 2026 г.. https://hegai.media/novosti/vyshla-lokalnaya-inkling-2-mini-s-povtornym-ispolzovaniem-sloev--c9b9c12c