Microsoft 9 октября представила Microsoft-Decision-1 — специализированную текстовую модель для выбора между заранее заданными вариантами. Миллион входных токенов стоит $0,042, плата за выходные токены не взимается. Модель доступна через Microsoft Foundry и OpenRouter.
Decision-1 не ведёт диалог и не пишет развёрнутые ответы. Разработчик передаёт ей текст, закрытый вопрос и список допустимых вариантов, а система возвращает вероятность для каждого из них. Она поддерживает ответы «да или нет», выбор из нескольких вариантов, оценки по шкале и проверку результата по заданным критериям.
По официальному анонсу Microsoft, модель предназначена для классификации и расстановки приоритетов, маршрутизации запросов, проверки ответов и управления рабочими процессами. Например, она может выбрать, какому инструменту ИИ-агента передать запрос, или определить, нужно ли отправить действие на проверку человеку.
Читайте также
Зачем отделять решение от генерации
Большая языковая модель нужна для рассуждений и создания текста, но во многих рабочих процессах требуется лишь короткий структурированный результат: направить обращение в нужный отдел, выбрать следующий инструмент или проверить соответствие правилам. Decision-1 выполняет такие операции отдельным вызовом, не генерируя лишний текст.
Модель работает только с текстом, не объясняет свои оценки и подходит лишь для вопросов с заранее заданными ответами. Microsoft также запрещает использовать её как единственное основание для решений о кредитовании, найме, жилье, страховании, образовании, медицинской помощи и юридических правах.
Что известно о скорости
Microsoft утверждает, что Decision-1 показала наивысшую точность в сравнении 36 наборов задач почти со 150 тысячами вопросов и была в 2,5 раза быстрее H2O-Lightning-4B v1.1.
H2O.ai оспорила методику: Microsoft сравнила задержку своего облачного сервиса со скорректированными показателями самостоятельно размещённых моделей. JevBench позднее получил для Decision-1 медиану около 459 мс вместо заявленных Microsoft 85 мс, но этот тест включал сетевую задержку и не воспроизводил конфигурацию компании. Поэтому эти результаты нельзя напрямую переносить на конкретное приложение.
Что это значит
- Decision-1 имеет смысл для задач с фиксированными вариантами. Маршрутизацию, классификацию и предварительную проверку можно вынести из большой генеративной модели в специализированный слой.
- Скорость и экономию нужно проверять на собственных данных. Следует учитывать задержку всей цепочки, точность решений, пороги уверенности и стоимость исправления ошибок.
- Значимые решения нельзя полностью отдавать модели. Неоднозначные случаи нужно передавать человеку. Microsoft Foundry российским компаниям напрямую не продаётся, а доступность и оплату OpenRouter из России необходимо проверять отдельно.