Исследование: более половины компаний уже сталкивались с инцидентами с ИИ-агентами

В 54% из 107 опрошенных компаний уже фиксировали подтвержденные инциденты безопасности с ИИ-агентами или ситуации, близкие к ним. При этом многие организации все еще дают агентам прямой доступ к системам и данным. По данным исследования, механизмы контроля развиваются медленнее, чем внедрение таких инструментов.

Как сообщает VentureBeat, только около трети компаний выделяют каждому ИИ-агенту отдельную ограниченную учетную запись. В большинстве случаев агенты по-прежнему работают с общими учетными данными. Лишь три из десяти организаций изолируют агентов с самым высоким уровнем риска.

Исследование также показывает, что компании чаще полагаются на инструменты безопасности от поставщиков моделей и hyperscaler-платформ, а не на специализированные решения для ИИ-агентов. Расходы на такую защиту остаются небольшой частью общего бюджета на безопасность. При этом мнения разделились поровну: часть компаний считает, что защита успевает за атаками с использованием ИИ, часть придерживается противоположной оценки.