OpenAI 5 октября объявила о невидимой маркировке текстов ChatGPT и Codex. В ближайшие недели её включат в Евросоюзе для подходящих пользователей на всех тарифах. Запуск связан с требованиями европейского закона об ИИ — AI Act.
Технология textGrain слегка меняет вероятности выбора слов, оставляя статистический сигнал. Она не добавляет значки или скрытые символы. Обычное копирование текста сохраняет сигнал; найти его может специальный детектор.
Клиенты API OpenAI по всему миру уже могут включить маркировку для отдельных моделей. По умолчанию она отключена. Функция также появится у облачных партнёров, однако глобально включать её по умолчанию компания пока не планирует.
Что сможет проверить детектор
Публичного доступа на старте не будет: возможны пропуски меток и ложные срабатывания. Исследователи и экспертные организации могут подать заявку. Детектор сообщит, обнаружена ли метка OpenAI, без раскрытия пользователя, запросов и переписки.
Правки ослабляют сигнал. В опубликованном тесте английских текстов модели FL5 детектор находил метку примерно в 92% случаев. После замены 10% слов синонимами показатель снизился до 66%, а после замены 25% — до 17%. Эти результаты не описывают все модели и языки. Перевод и короткие фрагменты тоже затрудняют проверку.
Что это значит
- Проверить любой текст самостоятельно пока нельзя: детектор не открывают всем желающим.
- Метка не заменяет проверку фактов: она не доказывает достоверность текста и не устанавливает его автора. Отсутствие сигнала тоже не доказывает, что текст написал человек.
- Доступ из России не меняется: ChatGPT и API OpenAI напрямую недоступны; европейский запуск не снимает эти ограничения.