Anthropic отключила модели Fable 5 и Mythos 5 после обеспокоенности властей США вопросами безопасности

Компания Anthropic приостановила работу своих моделей искусственного интеллекта Fable 5 и Mythos 5 после того, как власти США выразили обеспокоенность вопросами национальной безопасности. Решение было принято всего через несколько дней после их публичного выпуска. По заявлению компании, полученное распоряжение требует отключить Fable 5 и Mythos 5 для всех клиентов для соблюдения требований, при этом в письме не содержалось конкретных деталей о причинах таких опасений.

В Anthropic сообщили, что, насколько компании известно, правительство считает, что ему стало известно о способе обхода или «взлома» Fable 5. В компании изучили демонстрацию этой методики и заявили, что она позволила выявить небольшое число ранее известных незначительных уязвимостей. По оценке Anthropic, эти уязвимости относительно простые, и другие общедоступные модели также способны обнаруживать их без обхода защиты.

Перед выходом Claude Fable 5 компания сообщала о внедрении различных «мер безопасности» для предотвращения кибератак. Предварительный доступ к инструменту был предоставлен лишь нескольким организациям, поскольку, по словам Anthropic, система была настолько интеллектуальной, что могла представлять опасность из‑за способности взламывать компьютерные системы. До официального релиза Claude Fable 5 компания также заявляла, что модель «слишком мощная», а некоторые критики рассматривали такие заявления как преувеличенную шумиху и маркетинговый ход. В Anthropic также отмечали, что возможности Fable превосходят возможности любой модели, которую компания когда‑либо выпускала в продажу.