Anthropic временно отключила модели Fable 5 и Mythos 5 после требований властей США
Компания Anthropic временно отключила для пользователей свои новейшие модели искусственного интеллекта Fable 5 и Mythos 5. Решение приняли после запроса со стороны властей США. Оно связано с экспортными ограничениями и опасениями, что защитные механизмы моделей могут быть обойдены.
Американские власти считают, что в системе Fable 5 может существовать способ обхода встроенных ограничений. По их версии, это позволило бы использовать модель для поиска уязвимостей в программном обеспечении. В Anthropic с такой оценкой не согласились и заявили, что получили лишь информацию о возможном узком сценарии обхода защиты.
Ранее Fable 5 и Mythos 5 представляли как следующий этап развития ИИ с дополнительными ограничениями для потенциально опасных сфер, включая кибербезопасность. В компании уточнили: остальные модели Anthropic продолжат работать без изменений.
Ключевые факты
Anthropic временно отключила доступ к своим новым моделям ИИ Fable 5 и Mythos 5 для всех пользователей после требований властей США.
Решение связано с экспортными ограничениями и опасениями по поводу возможного обхода защитных механизмов моделей.
Правительство США считает, что у Fable 5 может существовать способ обхода встроенных ограничений, позволяющий использовать систему для поиска уязвимостей в программном обеспечении.
Anthropic заявила, что получила сведения лишь о возможном узком сценарии обхода защиты и что другие ее модели продолжат работать без изменений.