CISA применяет модель Anthropic для поиска уязвимостей в системах федеральных ведомств США

Агентство по кибербезопасности и защите инфраструктуры США использует модель Mythos от Anthropic для проверки исходного кода в государственных хранилищах. Система ищет ошибки, которыми могут воспользоваться иностранные спецслужбы и киберпреступники. За проверку отвечает подразделение Attack Surface Evaluation, оно занимается оценкой защищённости федеральных ведомств и проводит учебные взломы их систем.

Как сообщает SecurityLab (by Positive Technologies), модель уже обнаружила большое количество уязвимостей. Об этом рассказали два источника, однако детали о характере проблем и степени их опасности не раскрываются. Остальная информация о проекте тоже остаётся закрытой.

Развитие проекта совпало с недавним конфликтом Anthropic и Белого дома. В феврале компания отказалась снимать ограничения на использование своих моделей для автономного оружия и внутренней слежки. После этого Пентагон признал её риском для цепочки поставок. В марте суд заблокировал это решение, а после закрытого выпуска Mythos напряжённость снизилась.

По данным источника, Агентство национальной безопасности США использует Mythos как минимум с апреля. Сотрудники ведомства тестировали систему в засекреченной среде. Позже Anthropic выпустила общедоступную версию модели под названием Fable со встроенными ограничениями для задач кибербезопасности. Затем, после требования Белого дома закрыть доступ иностранным пользователям, компания отключила модель по всему миру. Работу Fable возобновили только на прошлой неделе.