Глава Amazon Web Services Энди Джасси, по сообщениям, обсуждал с представителями администрации США риски, связанные с передовыми моделями искусственного интеллекта компании Anthropic. Эти разговоры прошли незадолго до того, как разработчик ограничил доступ к новым системам Fable 5 и Mythos 5.
Ранее в Anthropic говорили, что модель Mythos может обладать расширенными возможностями для поиска уязвимостей. По этой причине ее массовый запуск решили отложить. Позже компания представила Fable с дополнительными защитными механизмами, связанными с кибербезопасностью.
После запроса со стороны американских властей Anthropic отключила доступ к обеим моделям по всему миру. Поводом стал возможный способ обхода защитных механизмов: он мог позволить использовать ИИ для анализа слабых мест в программном обеспечении. В Amazon не подтвердили детали обсуждений с правительством, однако отметили, что крупные поставщики облачных услуг регулярно участвуют в диалоге о безопасности технологий. При этом ряд экспертов раскритиковал ограничения, заявив, что они затронули не только потенциальных противников США, но и партнерские страны.
Ключевые факты
Глава Amazon Web Services Энди Джасси обсуждал с представителями администрации США возможные риски передовых моделей ИИ компании Anthropic.
Обсуждения прошли незадолго до того, как Anthropic ограничила доступ к новым системам Fable 5 и Mythos 5.
Anthropic заявляла, что модель Mythos могла обладать повышенными возможностями по поиску уязвимостей, поэтому ее массовый запуск был отложен.
После запроса американских властей Anthropic отключила доступ к моделям Fable 5 и Mythos 5 по всему миру из-за возможного способа обхода защитных механизмов.