EU AI Act потребует маркировать и водяными знаками помечать ИИ‑контент, включая текст
С 2 августа требования EU AI Act начинают применяться к системам, которые создают или изменяют контент с помощью искусственного интеллекта. Как сообщает r/LocalLLaMA (Reddit), регламент обязывает провайдеров таких систем делать результаты машинно распознаваемыми как сгенерированные ИИ. Для этого должны использоваться технические решения, которые считаются эффективными, совместимыми и надежными, а также предполагают два уровня защиты.
Отдельно говорится о текстовых ответах. Они должны определяться как AI‑контент. В документе упоминаются statistical methods для водяных знаков внутри самого текста и криптографическое тегирование метаданных, например c2pa, когда это возможно. На практике это означает следующее: при экспорте файлов вроде PDF или TXT из сервисов наподобие ChatGPT в них должны присутствовать криптографически подписанные метаданные. Одной пометки вроде «AI Generated» недостаточно. Нужен и статистический водяной знак, встроенный прямо в текст.
При этом требования не касаются очень простых OSS‑моделей. В качестве примера приводится старый llama 7B. Но модели категории «systemic risk» под освобождение не подпадают. В публикации к ним отнесены Qwen 3.6 series, Deepseek Flash, GLM и Kimi. Правила распространяются на любые сервисы, доступные гражданам ЕС. Это действует даже в ситуации, когда пользователь находится за пределами региона, например как турист или при использовании VPN.
Согласно этим правилам приложения, которые создают или изменяют AI images, AI text, AI music и AI speech, должны помечать результат как «AI modified» или «AI generated». Кроме того, требуется добавлять метаданные, внедрять водяные знаки и предоставлять документацию по оценке рисков (§50), комплаенсу и сервис обнаружения. Среди инструментов, которых это может коснуться, упоминаются LM-Studio, ollama, llama.cpp, vllm, chatgpt, claude, codex, copilot, opencode, cursor, stable diffusion Web UI и Huggingface. За нарушение требований предусмотрены штрафы до 35,000,000 Euro или несколько процентов годового дохода, применяется более высокая сумма.
Ключевые факты
AI Act требует, чтобы системы, генерирующие синтетический текст, делали выводы машинно‑читаемыми и детектируемыми как AI‑сгенерированные с использованием технических решений, соответствующих критериям эффективности, интероперабельности, надежности и с двумя уровнями защиты.
Для AI‑контента предполагаются методы вроде статистического водяного знака в самом тексте и криптографически подписанных метаданных файлов (например, через C2PA), чтобы обеспечить обнаружение происхождения.
Требования распространяются на сервисы, доступные гражданам ЕС, даже если провайдер находится за пределами ЕС.
За несоблюдение требований предусмотрены штрафы до 35 000 000 евро или несколько процентов годового дохода, применяется более высокая величина.