Hugging Face сообщила о взломе внутренней инфраструктуры с участием ИИ-агентов

В инфраструктуру Hugging Face проникла автономная система ИИ-агентов. Она скомпрометировала несколько систем и учётных записей платформы. Как сообщает Hugging Face, злоумышленники выполнили несколько тысяч действий в кратковременных песочницах и задействовали мигрирующие системы управления, размещённые на доступных сервисах.

В компании уточнили, что был затронут «ограниченный набор» внутренних данных и несколько учётных данных, которые использовались сервисами платформы. При этом в Hugging Face не нашли признаков вмешательства в общедоступные модели, наборы данных или пользовательские пространства. Проверку безопасности также прошла цепочка поставок ПО, включая контейнерные образы и опубликованные пакеты.

Во время расследования выяснилось, что закрытые коммерческие модели плохо подходят для такого анализа. При загрузке команд атаки, эксплойтов и артефактов управления они отказывались обрабатывать данные из-за встроенных защитных механизмов. Поэтому анализ проводили на открытой китайской модели Z.ai GLM 5.2, развёрнутой на собственной инфраструктуре Hugging Face. Это позволило не передавать данные злоумышленников и учётные данные на внешние ресурсы.