Microsoft тестирует Kimi K3 для части запросов Copilot
Microsoft тестирует внутри компании модель Kimi K3 от Moonshot AI и рассматривает вариант перевода на неё части запросов Copilot, которые сейчас обрабатывают модели OpenAI и Anthropic. Как сообщает TechNode, окончательного решения о замене каких-либо моделей пока нет.
В Microsoft считают, что перенос части нагрузки Copilot на Kimi K3 может сократить ежегодные расходы на облачную инфраструктуру до 600 млн $. Проверка Kimi K3 вписывается в более широкую стратегию компании: Microsoft хочет использовать несколько ИИ-моделей, снизить зависимость от одного поставщика и при этом контролировать затраты на обслуживание большого объёма запросов.
Сейчас компания оценивает Kimi K3 не только по качеству задач, связанных с программированием и рассуждением, но и по стоимости выполнения отдельных задач Copilot. В материале также говорится, что возможное внедрение потребует решения вопросов интеграции, суверенитета данных, безопасности и экспортного контроля. При этом первые сценарии использования могут ограничиться менее чувствительными нагрузками.
Ключевые факты
Microsoft оценивает возможность перевода части запросов Copilot с моделей OpenAI и Anthropic на Kimi K3
Потенциальная экономия на облачной инфраструктуре оценивается до 600 млн $ в год
Kimi K3 проверяют на задачах программирования, рассуждения и стоимости выполнения отдельных сценариев
Возможное внедрение модели зависит от интеграции, требований к суверенитету данных, безопасности и экспортного контроля