AWS представила API InvokeGuardrailChecks для проверки безопасности в агентных AI‑приложениях на Amazon Bedrock

AWS объявила о запуске API InvokeGuardrailChecks в составе Amazon Bedrock Guardrails. Интерфейс позволяет применять отдельные safeguards (их также называют safety checks) в любой точке agentic AI‑приложений и при этом не создавать отдельные guardrail‑ресурсы. API работает в режиме detect-only и возвращает числовые оценки для каждого safeguard. Дальше разработчик сам решает, что с ними делать: можно задать собственные пороги и прописать действия прямо в логике приложения, например block, bypass, retry или log для аудита.

Amazon Bedrock Guardrails предлагает настраиваемые safeguards для создания безопасных generative AI‑приложений. Эти механизмы применяются к foundation models: они помогают обнаруживать и фильтровать нежелательный контент, а также защищают чувствительную информацию. Проверки работают и для пользовательского ввода, и для ответов модели. Новый API InvokeGuardrailChecks расширяет эту систему и делает её удобнее для agentic AI‑приложений с multi-turn рабочими процессами.

В таких системах агенты сами планируют задачи, вызывают инструменты, обрабатывают результаты и проходят несколько циклов взаимодействия, часто без прямого участия пользователя. Один сеанс может включать 10, 20 или больше turn в разговоре. Проверки безопасности нужны на двух этапах каждого turn: перед отправкой входных данных в модель и перед тем, как ответ модели попадёт к пользователю. API возвращает числовой показатель, и на его основе можно задать собственные пороги и действия для каждого шага цикла агента.