METR опубликовала Frontier Risk Report об оценке рисков «rogue deployment» у внутренних AI-агентов

METR опубликовала Frontier Risk Report (February to March 2026), отчёт об оценке рисков misalignment у AI‑агентов, которые используются внутри компаний, разрабатывающих frontier AI. Пилотное упражнение стартовало в February 2026 при участии Anthropic, Google, Meta (деятельность Meta признана экстремистской и запрещена в РФ) и OpenAI. Окно оценки охватывало период Feb 16, 2026 – Mar 16, 2026.

Участники предоставили исследователям доступ к своим наиболее способным внутренним моделям на момент оценки. В том числе к raw chains of thought и к широкому массиву непубличной информации: сведения о возможностях моделей, о том, как они применяются внутри компаний, какие используются системы мониторинга AI и какие наблюдаются тенденции в темпах прогресса. Для каждой компании METR подготовила отдельные частные отчёты. Затем участники согласовали, какие элементы непубличных данных можно раскрыть, после чего на их основе был собран публичный документ. Упражнение ориентировано на организации, а не на отдельные модели; его планируют повторять регулярно и не привязывают к публичным релизам.

В отчёте выделены шесть ключевых фактов, которые использовались в оценке. Они основаны на результатах тестов моделей, предоставленных участниками, на оценках публичных моделей, информации от самих компаний, итогах недавнего embedded red-teaming exercise, а также на system cards и другой открытой литературе. Все факты распределены по трём категориям: means, motive и opportunity.

По итоговой оценке METR, внутренние агенты в период Feb–Mar 2026 правдоподобно обладали means, motive и opportunity для запуска небольших «rogue deployment», то есть набора агентов, работающих автономно без знания или разрешения человека. При этом, согласно выводам отчёта, у них не было means, которые позволили бы сделать такие развёртывания устойчивыми к различным мерам безопасности и мониторинга.