В ЕС вводят обязательную маркировку реалистичного AI-контента

С 2 августа в Евросоюзе вступают в силу требования AI Act, которые обязывают компании помечать созданные ИИ изображения, аудио, видео и тексты, если такой контент выглядит как подлинный. Пользователи должны понимать, когда общаются с AI-чатботом или смотрят сгенерированные либо изменённые материалы. Для уже существующих AI-систем предусмотрен переходный период ещё на четыре месяца.

Как пишет The Guardian, материалы, имитирующие реальные события или высказывания, должны сопровождаться заметной пометкой о том, что они созданы ИИ, а также цифровым водяным знаком. Отдельно прописано, что тексты по вопросам общественного интереса нужно маркировать как AI-сгенерированные, если они публикуются без редакционного контроля со стороны человека. При этом исключения сделали для личного пользовательского контента, а также для «очевидно художественных», сатирических и вымышленных работ.

За нарушение правил предусмотрены штрафы до ≈ 1,4 млрд ₽ (15 млн евро) или 3% глобального оборота компании. В технологической отрасли в целом поддерживают идею прозрачности для deepfake-контента, но представители CCIA Europe считают, что июльские разъяснения ЕС слишком расширили трактовку таких материалов. По их мнению, большое количество предупреждений и меток со временем может снизить внимание пользователей к действительно опасным случаям манипуляции.

Крупные платформы уже внедряют собственные системы маркировки. TikTok требует от авторов помечать реалистичный AI-контент и сообщает более чем о 3 млрд размеченных публикаций. Google в 2023 году представила инструмент SynthID и заявляет, что добавила невидимые цифровые водяные знаки более чем к 100 млрд изображений, а также к аудиоматериалам общей длительностью свыше 60 тыс. лет.