Даже при 100% доступности и ответах HTTP 200 мультиагентный процесс может незаметно терять в качестве. Как пишет Towards AI, в описанном сценарии за 30 дней доля полностью выполненных задач снизилась с 92% до 71%. При этом задержка API-шлюза оставалась на уровне 180 мс, а панели Datadog и Grafana не показывали никаких проблем.
В материале названы две причины такой деградации: изменения схем и структуры данных, а также стохастический дрейф рассуждений. Обычный сервис может остановиться, если не найдет нужный ключ. LLM-агент способен выбрать похожее поле и продолжить работу, а затем передать ошибочный контекст другим агентам или записать некорректные данные в производственную базу.
Один из примеров касается агента приема пациентов, который работает между внешним API записи и локальной EHR. После перехода контракта с v1.2.0 на необъявленную v1.3.0 поле с доплатой изменилось: вместо целого значения 2500 в центах появилось 25.00 в долларах, помещенное во вложенный объект.
Чтобы предотвращать такие сбои, автор предлагает выявлять дрейф промптов, закреплять контракты схем на уровне шлюза и ограничивать неконтролируемую запись агентов в производственные базы.
Ключевые факты
В описанном сценарии доля полностью выполненных задач за 30 дней снизилась с 92% до 71%.
Datadog и Grafana показывали 100% доступности, а задержка API-шлюза составляла 180 мс.
В примере контракт изменился с v1.2.0 на необъявленную v1.3.0 через два месяца.
Значение доплаты изменилось с 2500 центов на 25.00 долларов и было перенесено во вложенный объект.