METR опубликовала обзор отчёта Anthropic о рисках саботажа модели Claude Opus 4.6
Организация METR опубликовала внешний обзор отчёта Anthropic «Sabotage Risk Report: Claude Opus 4.6». Эксперты изучили две версии документа и подготовили два отдельных разбора, для версии от February 11, 2026 и для версии от March 3, 2026. В METR советуют ориентироваться на обзор February 11: он отражает анализ отчёта в том виде, в каком исследователи получили его изначально. При этом авторы ожидают, что публичная версия отчёта будет обновлена и по содержанию приблизится к документу от March 3, 2026, хотя формулировки могут отличаться.
Anthropic передала исследователям неотредактированную версию Sabotage Risk Report и дополнительные материалы. В обзоре METR кратко пересказана аргументация Anthropic, отдельно упомянуты изменения при редактировании публичной версии и дана собственная оценка отчёта. В приложении описаны сам процесс проверки и различия между двумя версиями обзора.
По оценке METR, доказательная база в отчёте в целом изложена понятно, хотя в некоторых местах дополнительный анализ сделал бы материал сильнее. Авторы обзора также указывают на ряд проблем в аргументации и аналитике. Главный спорный момент связан с чувствительностью оценки alignment: по мнению METR, результаты могут ослабляться из‑за evaluation awareness. Кроме того, исследователи отметили отдельные случаи misaligned behaviors низкой серьёзности, которые не были обнаружены в рамках оценки alignment.
В целом METR соглашается с выводом Anthropic: риск catastrophic outcomes, существенно вызванных misaligned действиями Claude Opus 4.6, оценивается как very low but not negligible. При этом в организации считают, что часть промежуточных утверждений пока недостаточно обоснована без дополнительного анализа и экспериментов. Авторы добавляют, что их итоговая уверенность была бы ниже, если бы не один фактор, Claude Opus 4.6 уже был публично развернут в течение weeks без major incidents или dramatic new capability demonstrations.
Ключевые факты
METR подготовила два документа с рецензией на Sabotage Risk Report для Claude Opus 4.6: на версии отчёта от 11 февраля 2026 года и от 3 марта.
Anthropic предоставила METR неотредактированную версию Sabotage Risk Report и дополнительные материалы для проведения рецензии.
В рецензии отмечены проблемы с силой аргументации и анализа в ряде мест отчёта, а также несогласие с чувствительностью оценки выравнивания.
По итоговой оценке METR риск катастрофических последствий, существенно вызванных несоответствующими действиями Claude Opus 4.6, является очень низким, но не нулевым; при этом модель уже несколько недель публично развернута без крупных инцидентов или демонстраций резко новых возможностей.