Исследователи предложили способ исправлять ошибки в длинных цепочках действий ИИ-агентов без полного перепланирования
Авторы работы предложили подход к исправлению ошибок в системах с ИИ-агентами, которые выполняют длинные сценарии на тысячи и десятки тысяч шагов. По их оценке, при таком масштабе сбои появляются не в отдельных предсказаниях, а внутри крупных графов планирования. Из-за этого полное пересчитывание всей цепочки после каждой ошибки становится слишком затратным и может ухудшать работу с длинным контекстом.
Как сообщает arXiv cs.AI (Artificial Intelligence), исследование сосредоточено на компоненте world-model corrector, механизме для исправления поврежденного графа планирования «на месте». Авторы сравнили два подхода. Первый отражает распространенную инженерную практику: система анализирует узлы и связи графа, находит подозрительный участок и передает его LLM для исправления. Исследователи пишут, что такие корректоры могут быть полезны, особенно если доступны очень большие контекстные окна.
Второй подход авторы назвали WM-SAR (World-Model Subgraph Amplification Repair). Вместо поиска заметных симптомов система отслеживает подграфы, которые продолжают усиливать ошибку, затем определяет причинно связанные узлы и передает LLM только этот фрагмент графа. По замыслу исследователей, такой метод должен уменьшить объем нерелевантного контекста, который получает модель.
Ключевые факты
Работа рассматривает сценарии с тысячами и десятками тысяч шагов в агентных workflow.
Авторы сравнили два семейства корректоров world-model: локальное исправление подозрительных участков и метод WM-SAR.
В подходе WM-SAR LLM получает только причинно связанный подграф, который повторно усиливает ошибку.
Исследователи отмечают, что инженерные LLM-корректоры показывают лучшие результаты при очень больших контекстах.