Экспортные ограничения на Claude Fable 5 остаются в силе после переговоров Anthropic с администрацией США
Переговоры между администрацией Дональда Трампа и Anthropic, прошедшие в понедельник в Вашингтоне, закончились без соглашения по модели Claude Fable 5. Ранее введённые экспортные ограничения остаются в силе. Власти считают, что защитные механизмы модели потенциально можно обойти. Во встрече участвовали представители Белого дома, Министерства торговли США и связанных с ними исследовательских структур, среди них Центр стандартов и инноваций в области искусственного интеллекта и Офис национального директора по кибербезопасности.
Со стороны правительства часть участников подключалась к обсуждению дистанционно. Среди них был министр торговли США Говард Лютник. Anthropic представляли сооснователь и директор по вычислительным системам Том Браун и руководитель направления внешних связей Сара Хек. В Вашингтон также приехали руководитель команды комплексной проверки безопасности (red-teaming) Логан Грэм и старший исследователь безопасности Николас Карлини.
Главная точка спора, риск «джейлбрейка», то есть обхода встроенных ограничений модели с помощью специально сформулированных запросов. Администрация США полагает, что такие методы могут открыть доступ к расширенным возможностям модели Mythos, на базе которой построена Fable 5. После анализа уязвимостей, на которые указали американские ведомства, включая участие Агентства национальной безопасности США (NSA), власти решили, что часть защит действительно может быть обойдена. Это и стало основанием для ограничений. В Anthropic считают опасения преувеличенными. Эту позицию поддержала часть независимых специалистов по кибербезопасности, они направили регуляторам открытое письмо.
Сейчас обсуждается возможность вернуть Fable 5 в потребительский доступ. По словам источников, это возможно только после полного устранения рисков обхода защит. На фоне конфликта ситуацию уже рассматривают как прецедент взаимодействия крупных ИИ-лабораторий с государством. История также усилила вовлечение регуляторов в процессы разработки и запуска передовых моделей.
Ключевые факты
Администрация Дональда Трампа после переговоров в Вашингтоне оставила в силе экспортные ограничения на модель Anthropic Claude Fable 5 из-за опасений обхода её защитных механизмов.
Во встречах участвовали представители Белого дома, Министерства торговли США, Центра стандартов и инноваций в области искусственного интеллекта и Офиса национального директора по кибербезопасности; дистанционно подключался министр торговли США Говард Лютник.
Со стороны Anthropic в переговорах участвовали сооснователь и директор по вычислительным системам Том Браун, руководитель внешних связей Сара Хек, руководитель команды red-teaming Логан Грэм и исследователь безопасности Николас Карлини.
Американские ведомства, включая Агентство национальной безопасности США (NSA), указали на уязвимости, которые могут позволить через «джейлбрейк» получить доступ к возможностям модели Mythos, на базе которой построена Fable 5.