Почему ИИ-агенты теряют эффективность из-за устаревшего контекста

Исследователь и корпоративный архитектор проанализировал 47 промышленных ИИ-агентов и пришёл к выводу: главная причина их деградации связана не с галлюцинациями моделей, а с устареванием контекста. Как пишет Tproger, 87% таких систем со временем пришлось отключить или серьёзно переработать. Они продолжали работать по старым данным и правилам, хотя бизнес-процессы уже изменились.

В материале это явление называют context rot. Речь идёт о постепенном расхождении между внутренней картиной мира агента и реальными процессами компании. Среди признаков автор перечисляет падение точности, рост расходов на ручную коррекцию, ложные срабатывания и регуляторные риски. Особенно заметна проблема там, где регулярно меняются политики, схемы данных и требования compliance.

В статье приводят несколько примеров. Один агент для сверки wire-переводов со счетами-фактурами в первые четыре недели показывал точность 96%, но уже к шестой неделе показатель упал до 67%. Причиной стало изменение плана счетов и появление новых транзакционных кодов. В другом случае агент в страховой сфере продолжал использовать старые клинические протоколы после их обновления, из-за чего были ошибочно одобрены 14 запросов.

Автор считает, что проблема связана с архитектурой: многие фреймворки рассматривают контекст как статический артефакт. Для снижения риска предлагается «живая архитектура контекста» с freshness scoring, регулярным обновлением, drift detection и участием экспертов в критических точках.