AWS вернет модели Anthropic Claude Fable 5 в Amazon Bedrock с усиленными защитными механизмами

AWS объявила, что модели Anthropic Claude Fable 5 снова будут доступны клиентам Amazon Bedrock с завтрашнего дня. В компании говорят, что у моделей усилили guardrails для предотвращения злоупотреблений. Как пишет AWS Machine Learning Blog, если защитные механизмы срабатывают, система автоматически переключается на модель Opus 4.8, которая уже находится в публичном доступе.

В AWS также отметили, что современные frontier-модели, включая Anthropic Claude Mythos, получили расширенные возможности в сфере кибербезопасности. Компания тестировала их в рамках Project Glasswing. По словам AWS, цель состоит в том, чтобы дать доступ к моделям уровня Mythos специалистам по защите систем и при этом ограничить использование таких инструментов для глубокого исследования уязвимостей со стороны злоумышленников.

Кроме того, AWS сообщила, что вместе с Anthropic и другими партнерами работает над настройкой guardrails для моделей этого класса. В компании заявили, что AI Red Team AWS совместно с Anthropic дополнительно усилила механизмы защиты Fable. AWS также поддержала публикацию Anthropic о подходах к реагированию на инциденты и SLA для cyber-capable моделей, подчеркнув важность прозрачности и совместной работы отрасли по мере появления новых моделей.