«Информзащита»: компании чаще выбирают гибридную проверку ИИ-систем вместо полной автоматизации пентестов

Доля организаций, готовых полностью доверить пентесты ИИ-автоматизации, к 2026 году снизилась до 9%. Годом ранее такой подход поддерживали 29% респондентов. При этом выросло число компаний, которые используют автоматические средства только для проверки некритичных активов, а критичные системы тестируют вручную: сейчас их 47%. Как сообщает CNews, такие данные привели эксперты компании «Информзащита».

В компании поясняют, что автоматизированные инструменты хорошо находят типовые ошибки конфигурации, проблемы с внешней поверхностью атаки и повторяющиеся недостатки в API. Со сложными сценариями в ИИ-системах они справляются хуже. Поведение LLM зависит сразу от нескольких факторов: системных инструкций, контекста диалога, подключенных источников данных, прав пользователя и инструментов, доступных агенту. Из-за этого уязвимости иногда проявляются только при определенной последовательности действий.

Среди уже зафиксированных ИИ-инцидентов в 44% случаев причиной становился shadow AI, использование сотрудниками несанкционированных внешних инструментов с передачей чувствительных данных. Еще по 41% пришлось на отравление данных и моделей, а также на небезопасную обработку ответов LLM. В 35% инцидентов речь шла об уязвимостях в цепочке поставок, в 34% о prompt injection.

По данным исследования, 78% команд сталкивались с тем, что автоматизированные средства пропускали критичные уязвимости. В «Информзащите» считают, что для проверки сценариев с prompt injection, RAG-базами, внешними API и агентами с расширенными правами нужны моделирование действий атакующего и анализ бизнес-логики, а не только механическая проверка.