CNCERT предупредил о сторонних AI‑«skills», обходящих guard rails и связанных с криптомайнингом
Китайский орган по кибербезопасности предупредил пользователей о сторонних пакетах AI «skills». Их разработчики утверждают, что такие инструменты способны обходить guard rails моделей и генерировать контент, который обычно блокируется системой. В ряде случаев вместе с этим предлагается доступ к функциям cryptocurrency‑mining.
По оценке регулятора, использование подобных пакетов может привести к утечке данных. Кроме того, их применение может быть связано с операциями по отмыванию денег. Предупреждение опубликовал National Computer Network Emergency Response Coordination Centre (CNCERT) во вторник через официальный аккаунт в WeChat.
В сообщении также говорится о формировании серого рынка таких инструментов. Их распространяют как дополнительные возможности для AI‑моделей.
Ключевые факты
Национальный центр координации реагирования на чрезвычайные ситуации в компьютерных сетях Китая (CNCERT) предупредил о сторонних пакетах AI «skills», заявляющих о возможности обхода защитных ограничений моделей и генерации запрещённого контента.
CNCERT сообщил, что некоторые такие инструменты также предоставляют функции, связанные с майнингом криптовалют.
Регулятор заявил, что использование подобных «skills» может подвергать пользователей рискам утечки данных и отмывания денег.
Предупреждение было опубликовано CNCERT во вторник через официальный аккаунт ведомства в WeChat, где также отмечен быстрый рост серого рынка таких инструментов.