Microsoft рассказала, с какими проблемами сталкиваются AI-агенты в корпоративной среде

Microsoft сообщила, что платформу Foundry для создания, развёртывания и эксплуатации AI-агентов и приложений используют более 80 000 компаний. На этой же платформе работают и собственные продукты компании, включая Microsoft 365 Copilot с аудиторией более 20 млн пользователей. Как пишет Hacker News со ссылкой на интервью с вице-президентом Microsoft Core AI Марко Касалайной, с начала года активность собственных агентов Microsoft выросла в шесть раз.

В Microsoft считают, что главные сложности production-систем связаны не столько с самими моделями, сколько с инфраструктурой вокруг них. Речь идёт о данных, которые получает агент, инструментах, с которыми он взаимодействует, обработке действий пользователей и изменении качества работы по мере обновления внешней среды. По словам Касалайны, корпоративные клиенты постепенно уходят от чат-ботов, которые просто отвечают на вопросы, к агентам, способным выполнять действия от имени пользователя: отправлять письма, создавать заявки или проводить анализ.

Компания также рассказала о нескольких инженерных подходах, которые используются в Foundry. Среди них, retrieval-as-a-subagent, а также выдача агентам собственной идентичности и отдельного пространства для выполнения действий. В Microsoft отмечают, что отсутствие identity-контроля создаёт проблемы с аудитом и отслеживанием действий агентов в корпоративных системах.

Отдельно Microsoft подчеркнула разницу между прототипом и production-версией AI-агента. В демонстрационных сценариях система может работать корректно, однако при использовании реальными клиентами появляются неожиданные запросы, устаревшие документы, новые edge cases и изменения поведения после обновлений моделей.