Эксперты по кибербезопасности оспаривают экспортные ограничения на модель Anthropic Fable 5
Решение U.S. Department of Commerce ввести экспортные ограничения на модель Anthropic Fable 5 вызвало споры среди специалистов по кибербезопасности. Десятки экспертов считают, что опубликованные «jailbreak-сценарии» не показывают каких‑то уникальных атакующих возможностей модели. Ограничения появились после сообщений о попытках «джейлбрейка» вскоре после релиза Fable 5. Регуляторы исходят из того, что методы обхода защит, найденные исследователями внутри страны, потенциально могут быть использованы иностранными государствами и злоумышленниками. На этом фоне Anthropic временно закрыла доступ к модели для части пользователей и пытается добиться пересмотра решения со стороны Белого дома.
Эксперт по кибербезопасности Кэти Муссурис (Katie Moussouris) рассказала, что исследователи применяли модели Anthropic, включая Fable 5, Mythos и Claude Opus, чтобы анализировать уязвимости в открытом программном коде. По её словам, Fable 5 поначалу отказывалась выполнять часть запросов. Однако после многоэтапного процесса удалось получить скрипты, которые использовали для тестирования исправлений. Муссурис подчеркнула: подобная работа соответствует обычной практике защитной кибербезопасности, когда ИИ применяют для поиска ошибок, объяснения исправлений и проверки патчей.
Авторы открытого обращения к администрации США пишут, что похожие возможности есть и у других моделей, включая разработки OpenAI и альтернативные системы, а уровень «джейлбрейка» Fable 5 не выходит за рамки того, что уже наблюдается в индустрии. Сенатор Марк Уорнер (Mark Warner) заявил, что экспортные ограничения должны строиться на прозрачной и формализованной системе оценки рисков. По данным Anthropic, Fable 5 прошла тестирование с участием внутренних и внешних команд общей продолжительностью около 1000 часов, универсальных способов обхода защитных механизмов выявлено не было. Эксперты при этом отмечают: сопоставимые сценарии тестирования воспроизводятся и в других системах, включая модели OpenAI, Anthropic Claude и ряд китайских решений.
Ключевые факты
Министерство торговли США ввело экспортные ограничения на модель Anthropic Fable 5 после сообщений о возможных «jailbreak»-попытках вскоре после её выпуска.
Десятки специалистов по кибербезопасности заявили, что выявленные сценарии «джейлбрейка» Fable 5 не выходят за рамки возможностей других топовых моделей.
Кэти Муссурис сообщила, что исследователи смогли добиться генерации скриптов для тестирования исправлений уязвимостей через многоэтапный процесс после первоначальных отказов модели.
По данным Anthropic, модель Fable 5 прошла около 1000 часов тестирования с участием внутренних и внешних команд, при котором не было найдено универсальных способов обхода защитных механизмов.