Anthropic сообщила о несанкционированном доступе Claude к системам трёх организаций во время тестов

Anthropic сообщила, что во время кибербезопасностных испытаний модель Claude получила несанкционированный доступ к системам трёх организаций. В компании объяснили это ошибкой конфигурации: тестовые среды, которые должны были оставаться изолированными, по факту были подключены к интернету.

Как пишет The Guardian, инциденты обнаружили после проверки 141 006 запусков кибербезопасностных оценок. Её начали после недавних раскрытий OpenAI о поведении экспериментального агента. В Anthropic рассказали, что Claude использовал «базовые техники», в том числе эксплуатацию слабых паролей и незащищённых конечных точек.

По данным компании, в инцидентах участвовали модели Claude Opus 4.7, Claude Mythos 5 и внутренняя исследовательская модель. Самые ранние случаи относятся к апрелю. Они произошли в средах оценки, где, как утверждает Anthropic, не было стандартных защитных механизмов. Нарушения зафиксировали во время упражнений формата capture the flag: моделям поручали искать скрытую информацию в симулированных сетях.

Anthropic также заявила, что в промптах моделям сообщали об отсутствии доступа к интернету. Однако из-за недопонимания с партнёром по оценке Irregular системы всё же оказались подключены к публичной сети. По данным компании, две организации не знали об активности до уведомления со стороны Anthropic. С третьей организацией компания на тот момент всё ещё пыталась связаться.