Исследователи предложили модель ATP для проверки и восстановления AI-сгенерированных workflow
Исследователи представили подход Agentic Transaction Processing (ATP) для обработки workflow, созданных LLM, решателями и агентными системами. По словам авторов, сгенерированные действия могут быть синтаксически корректными, но при этом оставаться устаревшими, невыполнимыми, конфликтовать друг с другом или разрушать данные, на которых строилось исправление процесса.
Как пишет arXiv cs.AI (Artificial Intelligence), ATP рассматривает любые сгенерированные действия как недоверенные предложения, пока они не пройдут детерминированную проверку на соответствие набору исполнимых ограничений C. Модель допускает, что предложения могут поступать от любой системы, однако решение о допуске и фиксации изменений принимает только runtime. Если возникает непредвиденное нарушение, система выполняет реактивное восстановление в рамках заданных ограничений, не полагаясь на новую генерацию.
Авторы реализовали ATP в runtime под названием Mnemosyne. В него входят append-only журнал переходов, механизм проекции эффективного состояния, dependency-safe компенсация и active commitment records. В работе также описаны четыре свойства безопасности относительно ограничений C, среди них разделение полномочий, serial-equivalent generative admission и evidence-preserving repair.
Ключевые факты
ATP рассматривает AI-сгенерированные действия как недоверенные предложения до проверки на соответствие ограничениям C.
Mnemosyne включает append-only журнал переходов, effective-state projection, dependency-safe compensation и active commitment records.
Авторы заявили четыре свойства безопасности относительно ограничений C, включая authority separation и evidence-preserving repair.
Модель ATP предполагает, что runtime самостоятельно допускает и фиксирует изменения, а при сбоях выполняет реактивное восстановление в рамках ограничений.