Microsoft запустила подразделение Microsoft Frontier Company с бюджетом 2,5 млрд $. Оно будет помогать enterprise-клиентам выбирать, комбинировать и быстро менять генеративные модели под разные задачи. Глава коммерческого направления Microsoft Judson Althoff признал, что привязка оригинального Copilot только к OpenAI была ошибкой. По его словам, заказчикам важнее результат, стоимость, безопасность и работа с собственными данными, а не бренд конкретной модели.
Как пишет Tproger, компания переходит к мульти-модельной стратегии. В такой схеме приложения направляют запросы к разным моделям в зависимости от цены, скорости и требований к данным. В материале среди примеров инфраструктуры для этого подхода упоминаются LiteLLM, Portkey, LangGraph, MCP, Azure AI Foundry, Amazon Bedrock и Google Vertex AI.
В Microsoft считают, что главная задача сейчас связана не с выбором одной универсальной модели, а с созданием слоя оркестрации. Для этого нужно сравнивать модели по качеству, задержке и цене, отслеживать отказы, переключать трафик и соблюдать политики безопасности. В материале также отмечается, что в enterprise-сценариях такие решения принимаются миллионы раз в день, поэтому инфраструктура должна оставаться быстрой и управляемой.
Ключевые факты
Microsoft выделила 2,5 млрд $ на подразделение Microsoft Frontier Company
Judson Althoff назвал ошибкой привязку оригинального Copilot только к OpenAI
В материале среди инструментов мульти-модельной инфраструктуры перечислены LiteLLM, Portkey, LangGraph и MCP
В качестве примера enterprise-задач упомянут анализ 300-страничного договора