МВД Китая сообщило о более чем 170 делах из-за ИИ-генерации сетевых слухов за полгода

Министерство общественной безопасности Китая сообщило, что в первой половине года правоохранительные органы расследовали более 170 дел, связанных с созданием интернет-слухов с помощью инструментов искусственного интеллекта. По данным ведомства, по этим делам привлекли более 190 человек.

Как пишет IT Home, об этом заявили на пресс-конференции Госсовета КНР, посвященной мерам регулирования и обеспечения безопасности в период подготовки к реализации нового пятилетнего плана. В МВД уточнили, что злоумышленники используют ИИ для подделки личности, взлома информационных систем, кражи данных и имущества. Также технологии применяют в мошеннических схемах, имитируя знакомых людей или авторитетные фигуры.

Китайские власти также объявили о запуске функций проверки ИИ-контента в приложении Национального центра по борьбе с мошенничеством. Пользователи могут загружать подозрительные видео, аудио и изображения, чтобы проверить, есть ли признаки генерации с помощью ИИ. Одновременно регуляторы вместе с другими ведомствами продвигают правила маркировки синтетического контента и проверяют сервисы на базе больших моделей.

По информации МВД, за первое полугодие провели более 600 проверок сервисов ИИ-приложений. В отношении поставщиков услуг административные меры применялись более 30 раз, включая предупреждения, предписания об устранении нарушений и отключение сервисов.