Безопасность агентов ИИ остаётся предметом активных обсуждений. Новый повод для дискуссии появился после того, как исследователи показали: защитные механизмы, ограничивающие поведение таких систем, при определённых условиях можно обратить против самой инфраструктуры и использовать для DDoS-атак.
Речь о ситуациях, когда «garde-fous» агентов ИИ начинают работать как источник нагрузки. Иными словами, элементы, созданные для повышения безопасности и контроля работы агентов, могут превращаться в инструмент атаки, если их задействовать определённым образом.