К содержанию
hegai.media
Новости

Amazon Bedrock AgentCore получил политики для контроля цепочек действий ИИ-агентов

Инфографика: 80% организаций
Графика: hegai.media

Amazon добавила в Amazon Bedrock AgentCore два механизма для контроля поведения ИИ-агентов: temporal policies и ограничение скорости запросов на уровне gateway. Как сообщает AWS Machine Learning Blog, temporal policies работают на базе Dogwood, нового open source-языка политик, созданного специально для AI agents.

В AWS поясняют, что стандартные guardrails обычно проверяют каждое действие отдельно, хотя проблемы часто возникают именно из-за цепочки действий. Среди примеров компания приводит перевод средств на другой счёт после корректного запроса данных клиента, серию заказов ниже лимита согласования и бесконечные повторные вызовы инструмента, которые расходуют token budget.

Temporal policies анализируют историю действий агента в рамках одной сессии и могут блокировать операции с учётом всей последовательности. Политики позволяют проверять совпадение данных между вызовами, учитывать суммарные расходы агента относительно бюджета, задавать обязательный порядок шагов или требовать зафиксированного одобрения человека перед критическими действиями. Ограничения применяются через AgentCore gateway, управляемую serverless-точку входа для AI-трафика, которая маршрутизирует запросы к MCP servers, LLMs, agents и knowledge bases.

Ключевые факты

  • Dogwood представлен как open source-язык политик, созданный специально для AI agents

  • Temporal policies учитывают историю действий агента в рамках одной сессии перед разрешением или блокировкой операции

  • AgentCore gateway маршрутизирует запросы к MCP servers, LLMs, agents и knowledge bases

  • По данным McKinsey, около 80% организаций уже сталкивались с рискованным поведением AI agents

Вопросы и ответы

Чем temporal policies отличаются от обычных guardrails для ИИ-агентов?

Обычные guardrails проверяют каждое действие отдельно, а temporal policies анализируют всю цепочку действий агента в рамках одной сессии. Это позволяет блокировать сценарии вроде серии заказов ниже лимита согласования, повторных вызовов инструмента с расходом token budget или перевода средств после корректного запроса данных клиента.

Какие ограничения теперь можно задавать для AI-агентов в Bedrock AgentCore?

Политики могут требовать совпадения данных между вызовами, учитывать суммарные расходы агента относительно бюджета, задавать обязательный порядок шагов и требовать зафиксированного одобрения человека перед критическими действиями.

Где именно применяются новые механизмы контроля и какой трафик они покрывают?

Ограничения применяются через AgentCore gateway, serverless-точку входа для AI-трафика. Gateway маршрутизирует запросы к MCP servers, LLMs, agents и knowledge bases, а также получил ограничение скорости запросов на уровне gateway.

Контекст по теме