Исследование описывает эффект «перетекания» инструкций между модулями в агентных системах на промптах

Разработчики агентных систем, собранных из нескольких промптовых модулей, регулярно сталкиваются с одной и той же проблемой. Стоит изменить один модуль, и поведение других может сдвинуться, хотя у них нет общих переменных или исполняемых зависимостей. Авторы исследования называют это compositional behavioral leakage (CBL). Речь об интерференции между модулями, которые делят одно контекстное окно.

Как сообщает arXiv cs.AI (Artificial Intelligence), причина эффекта связана с архитектурной неизолированностью таких систем. Механизм self-attention в трансформерах не формирует жёсткой границы между модулями, если они помещены в общий контекст. В результате инструкции из одного блока могут косвенно влиять на другой.

Чтобы проверить существование CBL, исследователи провели 144 испытания на развёрнутом агенте оценки вакансий, использующем Claude Sonnet 4.6. Эксперимент строился на воспроизводимом протоколе с тремя каналами. В нём нефокусные модули варьировались по параметрам volume, content и form. Эффект проявился только в канале content. Измерение дало Cohen's d = 0.63 при bootstrap 95% CI, который исключает ноль.

При этом ни одна рекомендация системы не изменилась. Это указывает на субпороговый режим. Такой эффект может оставаться незаметным для стандартных процедур QA, но со временем накапливаться в системах, принимающих тысячи решений.

Авторы подчёркивают, что CBL не совпадает с уже описанными типами сбоев агентных систем. Среди них adversarial injection, cognitive degradation, multi-agent fault propagation и privacy leakage. В работе предложены операционное определение явления, воспроизводимый протокол эксперимента, набор проверяемых предсказаний и описание класса систем, где такой эффект может возникать.