Исследователи предложили схему контроля для сервисных ИИ-агентов с маршрутизацией по сложности запроса

Авторы новой работы предложили архитектуру управления сервисными ИИ-агентами. Она определяет, в каких случаях системе нужно повторно проверять решение перед выполнением действий в корпоративных системах. Речь о сценариях, где агенты не только общаются с клиентом, но и получают доступ к внутренним данным компании, применяют сервисные политики, а также выполняют операции вроде возвратов, отмен, обменов, изменения заказов и бронирований.

Как сообщает arXiv cs.AI (Artificial Intelligence), подход строится на маршрутизации запросов по уровню сложности. Простые обращения проходят по базовому, менее затратному сценарию. Запросы с высокой операционной связностью переводятся в расширенный workflow. В таких случаях система использует коммуникацию с учетом конфликтов и механизм повторного анализа перед изменениями в backend-системах.

По словам авторов, архитектура позволяет применять дополнительные проверки и меры предосторожности только для операционно чувствительных действий, не распространяя усиленный контроль на все обращения подряд. Метод тестировали на задачах из τ²-bench с участием людей-верификаторов для ритейла и авиасервисов.