К содержанию
hegai.media
Новости

В ЕС вступили в силу требования AI Act о маркировке ИИ-контента и раскрытии взаимодействия с ИИ

Инфографика: ЕС — риск несоответствия требованиям
Графика: hegai.media

В Евросоюзе вступили в силу положения статьи 50 AI Act, которые вводят обязательные требования по прозрачности для поставщиков и операторов ИИ-систем. Компании, использующие генеративные ИИ-инструменты, теперь обязаны уведомлять пользователей, когда те взаимодействуют с машиной, а также помечать контент, созданный или изменённый с помощью ИИ.

Как сообщает AI News (artificialintelligence-news.com), отдельные правила распространяются на системы, создающие синтетические аудио, изображения, видео и тексты. Такой контент должен сопровождаться машиночитаемой маркировкой, чтобы можно было определить искусственное происхождение или факт манипуляции. В документе уточняется: маркировка должна быть эффективной и совместимой с другими системами настолько, насколько это технически возможно, с учётом стоимости внедрения и текущего уровня технологий.

Статья 50 также требует, чтобы операторы систем распознавания эмоций и биометрической категоризации информировали людей об использовании таких технологий. Для дипфейков предусмотрено отдельное требование: необходимо раскрывать факт генерации или изменения изображения, аудио или видео. Для художественного, сатирического и вымышленного контента допускается более мягкая форма уведомления, если она не мешает восприятию работы.

Отдельное правило действует для текстов, публикуемых в общественно значимых целях. Оператор должен сообщать об использовании ИИ при генерации или изменении текста, если материал не прошёл человеческую проверку и за него никто не несёт редакционную ответственность. Все уведомления должны предоставляться не позднее первого взаимодействия с системой или первого контакта с контентом.

Ключевые факты

  • Статья 50 AI Act распространяется на поставщиков и операторов определённых ИИ-систем в странах ЕС

  • Исключение из требования об уведомлении предусмотрено для случаев, когда человеку очевидно, что он взаимодействует с ИИ

  • Системы правоохранительных органов могут не подпадать под часть требований при наличии мер защиты прав третьих лиц

  • Контроль за соблюдением правил разделён между национальными органами рыночного надзора, AI Office и European Data Protection Supervisor

Вопросы и ответы

Какие ИИ-сценарии теперь требуют обязательного уведомления пользователей в ЕС?

Статья 50 AI Act обязывает уведомлять пользователей при взаимодействии с ИИ-системой, а также маркировать контент, созданный или изменённый ИИ. Отдельные правила введены для систем распознавания эмоций, биометрической категоризации и дипфейков с аудио, видео или изображениями.

Как именно нужно маркировать ИИ-контент и когда показывать уведомление?

Для синтетических аудио, изображений, видео и текста требуется машиночитаемая маркировка, позволяющая определить искусственное происхождение или факт манипуляции. Уведомление должно появляться не позднее первого взаимодействия с системой или первого контакта с контентом.

Есть ли исключения или более мягкие требования для отдельных случаев?

Да. Уведомление можно не показывать, если человеку очевидно, что он взаимодействует с ИИ. Для художественного, сатирического и вымышленного контента допускается более мягкая форма раскрытия, а некоторые системы правоохранительных органов могут быть освобождены от части требований при наличии мер защиты прав третьих лиц.

Контекст по теме