Предложен язык протоколов для распределения ответственности между людьми и AI‑агентами в разработке ПО
AI‑агенты все чаще подключаются к работе команд на протяжении всего жизненного цикла разработки программного обеспечения. При этом до сих пор нет формального языка, который позволял бы четко описывать границы ответственности между людьми и агентами, этапы утверждения и управленческие ограничения.
На практике процесс обычно зашивают прямо в промпты агентов. Такой подход уязвим к дрейфу. Другие решения лежат в соседних областях, например в workflow‑системах или инструментах управления бизнес‑процессами. Есть и более узкие механизмы, которые покрывают лишь отдельные задачи, такие как контроль доступа или approval‑процедуры.
Авторы новой работы предлагают доменно‑специфический язык для описания AI‑SDLC‑процессов в виде протоколов. В него входят формальный синтаксис, условия корректности, операционная семантика и инварианты исполнения. Подход разделяет policy (заявленное намерение) и mechanism (структурное принуждение). За счет этого недетерминизм процесса можно ограничивать с помощью примитивов вроде validation tokens и capability boundaries.
Анализ отказов показывает следующую картину. Если используется структурное принуждение, уровень системных сбоев ограничивается взвешенным произведением показателей агента и валидатора. Когда же правила соблюдаются только на поведенческом уровне, ошибки могут накапливаться, вплоть до почти насыщаемого роста. В работе также описан командный шаблон 2+N, в котором предусмотрены две роли human‑in‑control.
Как сообщает arXiv cs.AI (Artificial Intelligence), предложенный язык предназначен для формального задания процессов взаимодействия людей и AI‑агентов на протяжении AI‑SDLC.
Ключевые факты
На arXiv опубликована работа «Specifying AI-SDLC Processes: A Protocol Language for Human-Agent Boundaries» (arXiv:2606.20615v1), предлагающая язык спецификаций для процессов AI‑SDLC.
Предложен предметно-ориентированный язык, описывающий процессы как протоколы с формальным синтаксисом, условиями корректности, операционной семантикой и инвариантами исполнения.
Модель разделяет policy (заявленное намерение) и mechanism (структурное принуждение), вводя примитивы вроде validation tokens и capability boundaries.
Анализ отказов показывает, что структурное принуждение ограничивает вероятность сбоев взвешенным произведением показателей агента и валидатора, тогда как поведенческое соблюдение правил может приводить к накопительному или близкому к насыщению росту отказов.