Администрация Дональда Трампа решила ограничить иностранным пользователям доступ к самым мощным моделям искусственного интеллекта Anthropic после предупреждений со стороны Amazon. Об этом пишет The Wall Street Journal со ссылкой на источники, знакомые с ситуацией. По их словам, генеральный директор Amazon Энди Джесси сообщил министру финансов США Скотту Бессенту и другим чиновникам, что специалистам компании удалось заставить модель Fable 5 выдавать информацию, которая потенциально может использоваться при подготовке кибератак и должна была оставаться недоступной пользователям.
После этих сигналов в Белом доме прошло совещание, посвящённое возможным рискам, а специалисты по безопасности начали проверять выводы Amazon. Чиновники потребовали от Anthropic либо устранить обнаруженные проблемы, либо временно отключить модель. В итоге власти пришли к выводу, что самый быстрый способ снизить риск, ограничить доступ к системе для иностранных правительств, компаний и частных лиц. Несмотря на опасения, что такие меры могут замедлить развитие отрасли, Дональд Трамп одобрил это решение.
На фоне действий правительства Anthropic объявила о полном отключении доступа к моделям Mythos и Fable для всех пользователей, чтобы выполнить новые требования. В компании предупредили, что это может осложнить работу организаций по всему миру, которые используют подобные инструменты для поиска уязвимостей в программном обеспечении. Кроме того, часть сотрудников Anthropic родилась за пределами США, поэтому ограничения фактически лишили некоторых специалистов доступа к новейшим моделям.
По данным источников, дополнительные вопросы у чиновников появились после переговоров с генеральным директором компании Дарио Амодеи. Некоторые участники обсуждений посчитали, что Anthropic недостаточно готова к сотрудничеству с государственными специалистами по безопасности. Согласно отчёту Amazon, Fable смогла выявить уязвимости как минимум в четырёх программных продуктах после специально подготовленной последовательности запросов. Основатель GreyNoise Intelligence Эндрю Моррис при этом заявил, что это ещё далеко от получения действительно опасной информации для реальных атак. В самой Anthropic добавили, что выявленные возможности относятся к сравнительно простым сценариям.
Ключевые факты
По данным The Wall Street Journal, сигналы генерального директора Amazon Энди Джесси министру финансов США Скотту Бессенту и другим чиновникам стали спусковым крючком для решения администрации Дональда Трампа ограничить иностранным пользователям доступ к наиболее мощным моделям Anthropic.
Специалисты Amazon смогли заставить модель Anthropic Fable 5 выдавать информацию, которая потенциально может использоваться при подготовке кибератак и должна была оставаться недоступной пользователям.
Согласно отчёту Amazon, модель Fable после специально подготовленной последовательности запросов выявила уязвимости как минимум в четырёх программных продуктах.
В ответ на действия правительства Anthropic объявила о полном отключении доступа к моделям Mythos и Fable для всех пользователей, чтобы обеспечить соблюдение новых требований.
