Опрос DigiCert: 78% компаний столкнулись с инцидентами или уязвимостями, связанными с ИИ
Большинство компаний, которые внедряют ИИ-системы, сталкиваются с проблемами безопасности. Об этом говорится в опросе DigiCert, проведенном среди 1001 руководителя в сфере IT и кибербезопасности в США, Великобритании и Австралии. Как пишет The Register, 78% участников сообщили об инцидентах, связанных с ИИ, либо о найденных уязвимостях.
Согласно данным DigiCert, 27,7% респондентов столкнулись с одним инцидентом, 21,9% сообщили о нескольких случаях. Еще 28,4% не фиксировали инцидентов, но обнаруживали уязвимости. В компании уточнили, что речь идет о неавторизованных или неправильно настроенных ИИ-агентах, а не о проблемах, вызванных кодом, сгенерированным ИИ.
В DigiCert связывают результаты исследования с недостаточным управлением ИИ. Хотя 90% опрошенных компаний обсуждали вопросы AI governance на уровне совета директоров, только у 50% есть отдельный бюджет и формальные программы управления. Кроме того, лишь 53% респондентов заявили, что способны отследить решения ИИ до конкретных моделей и исходных данных.
В материале также упоминаются инициативы по идентификации ИИ-агентов, среди них Private Access Control Tokens (PACTs), цифровые ID для агентов в Эстонии и Microsoft's Agent ID. При этом, как отмечает издание, инфраструктура для проверки и идентификации ботов пока остается незавершенной.
Ключевые факты
В опросе DigiCert участвовали 1001 руководитель в сфере IT и кибербезопасности из США, Великобритании и Австралии
27,7% компаний сообщили об одном инциденте, связанном с ИИ, а 21,9%, о нескольких
28,4% респондентов не сталкивались с инцидентами, но выявляли уязвимости в ИИ-системах
Только 53% опрошенных компаний могут проследить решения ИИ до моделей и исходных данных