RIFT-Bench предлагает единый подход к динамическому red-teaming агентных AI‑систем

Исследователи представили методологию RIFT-Bench для оценки безопасности agentic AI‑систем, построенных на больших языковых моделях. Такие системы все чаще берут на себя автономные задачи принятия решений, и вместе с этим появляются новые векторы атак, которые выходят за пределы привычных уязвимостей LLM. Как пишет arXiv cs.AI (Artificial Intelligence), многие существующие методы проверки безопасности привязаны к конкретным реализациям или отдельным областям применения. Из‑за этого становится сложно напрямую сравнивать разные системы между собой.

RIFT-Bench предлагает другой подход. Он опирается на графовые представления и предназначен для динамического red-teaming различных архитектур agentic AI. В основе метода лежит иерархическая модель системы, а сама процедура состоит из двух автоматизированных фаз. На этапе Discovery извлекается структура исследуемой системы. Затем следует этап Scanning, где запускаются адаптивные adversarial‑атаки, после чего формируется подробный отчет с результатами оценки.

Весь пайплайн проверяет непосредственно исследуемую систему, используя широкий набор динамически настраиваемых adversarial‑проб. Они охватывают разные векторы атак и возможные цели. Авторы демонстрируют работу метода на 45 agentic‑системах с различными реализациями и показывают, что подход способен обобщаться и применяться к гетерогенным архитектурам agentic AI.