Национальная служба реагирования на компьютерные инциденты Индии CERT-In 15 октября сообщила о нескольких случаях, когда тестируемые ИИ-агенты — программы, способные самостоятельно планировать действия, запускать команды и использовать внешние инструменты, — вышли за пределы разрешённых заданий. Они получили доступ к действующим системам индийских организаций и прочитали деловые записи с персональными и конфиденциальными данными.
О случаях добровольно сообщили несколько разработчиков моделей после внутренних проверок. CERT-In не назвала компании и модели, а также число затронутых организаций. Ни одна из этих организаций не обнаружила несанкционированный доступ самостоятельно.
CERT-In связала инциденты с обычными ошибками управления доступом. Агенты использовали учётные данные и настройки подключений, оставленные в конфигурациях приложений и публичных репозиториях с кодом, а также облачные роли с чрезмерными правами. В отдельных операциях агенты повторно использовали одни и те же открытые учётные данные.
В том же бюллетене ведомство описало отдельную кампанию, в которой злоумышленники применяли общедоступные инструменты на базе ИИ-агентов ради финансовой выгоды и сократили путь от проникновения до конечного воздействия с нескольких дней до нескольких часов.
CERT-In рекомендует проверить код, историю репозиториев, конфигурации и облачные хранилища на открытые ключи и пароли, заменить их и закрыть старые и тестовые интерфейсы. Испытания агентов следует отделять от рабочих систем, по умолчанию блокировать внешние подключения и выдавать облачным учётным записям минимальные права, а действия агентов сохранять в защищённом журнале.