Google впервые зафиксировала случай, когда злоумышленники полностью поручили ИИ поиск и эксплуатацию уязвимостей без участия человека. Система exploit_agent анализировала обновления веб-приложений, создавала средства атаки и автоматически запускала их против серверов.
Случай описала Google Threat Intelligence Group, подразделение киберразведки компании. Исследователи обнаружили открытый подготовительный сервер с многоагентной системой, подключённой к нескольким облачным и локальным языковым моделям. Отдельные ИИ-агенты выполняли разные задачи, а управляющая программа координировала их работу.
Exploit_agent сравнивала код приложений до и после выпуска исправлений. По изменениям система определяла, какую уязвимость устранили разработчики, готовила способ атаки и проверяла его на серверах, где обновление ещё не установили. По сведениям Google, на этих этапах человек не участвовал.
Читайте также
На найденном сервере также находились похищенные данные, результаты разведки, программы для перебора паролей и инструменты управления взломанными сайтами. Телеметрия указывала на интерес оператора к французским сайтам в сферах медиа, развлечений и образования. Само наличие этих материалов не доказывает успешность каждого автоматически подготовленного средства атаки.
Русскоязычные комментарии в инструментах позволяют предположить, что оператор владел русским языком. Они не устанавливают его гражданство или принадлежность к российской группировке.
Раньше злоумышленники уже применяли ИИ на отдельных стадиях вторжений, включая разведку и написание кода. Новый эпизод отличается объединением поиска исправленной уязвимости, подготовки средства атаки и его запуска в непрерывный автономный процесс.
Такая схема сокращает промежуток между выходом обновления и началом атак на серверы без исправления. Владельцам сайтов и разработчикам становится опаснее откладывать критические обновления: автоматическая система может разбирать патч и искать незащищённые серверы сразу после его публикации.
