ChatGPT ограничит ответы подросткам и ошибочно распознанным взрослым

30 октября OpenAI объявила о новых ограничениях ChatGPT для пользователей младше 18 лет. Подростковые аккаунты перестанут получать практические сведения об оружии и системах безопасности даже при внешне безобидном запросе. Для выбора режима сервис оценивает возраст по поведению и другим сигналам аккаунта.

Если система ошибочно сочтёт взрослого подростком, ответы для него могут стать менее подробными. Исправить возрастной статус OpenAI предлагает с помощью селфи через партнёра по проверке возраста Persona. Однако независимый тест Common Sense Media показал и обратную проблему: явные подростковые сигналы в переписке не всегда приводили к включению защитного режима. OpenAI оспорила методику проверки и заявила, что значительная часть тестов могла пройти до полной активации родительских функций.

Что изменилось 30 октября

Система определения возраста появилась раньше новых ограничений: OpenAI представила её 20 января 2026 года, а в августе запустила подростковый режим ChatGPT for Teens. Обновление от 30 октября расширяет правила для аккаунтов пользователей младше 18 лет.

ChatGPT должен блокировать для них практическую информацию об оружии и системах безопасности, даже если в переписке нет признаков намерения причинить вред. Более строгий режим должен срабатывать и на нейтрально сформулированные вопросы.

Для всех пользователей независимо от возраста ChatGPT будет давать меньше подробностей о массовых нападениях и совершивших их людях. Сервис не должен реконструировать атаку, перечислять использованное оружие и объяснять, как нападавший его получил. Обсуждать последствия для пострадавших и сообществ и признаки опасного поведения по-прежнему можно.

Если переписка показывает фиксацию пользователя на насилии или причинении серьёзного вреда другому человеку, ChatGPT сможет автоматически завершить разговор. После нескольких таких эпизодов OpenAI может временно приостановить аккаунт. Развёртывание новых мер начнётся в ближайшие недели и будет проходить постепенно.

Компания также сообщила, что в третьем квартале 2026 года направила правоохранительным органам более 200 сообщений.

Как ChatGPT оценивает возраст

OpenAI не ограничивается датой рождения, указанной при регистрации. Система анализирует «поведенческие сигналы и сигналы уровня аккаунта». Среди названных признаков — возраст, который сообщил сам пользователь, срок существования аккаунта и обычное время активности.

Алгоритм оценивает вероятность того, что аккаунт принадлежит человеку младше 18 лет. Если система относит пользователя к этой группе, подростковые фильтры включаются автоматически. После этого ChatGPT продолжает учитывать новые сигналы и может изменить статус аккаунта.

Взрослому, которого система сочла подростком, предлагают подтвердить возраст через Persona. Пользователь может передать партнёру OpenAI селфи, чтобы восстановить взрослый статус аккаунта.

При этом возраст, который ChatGPT распознаёт внутри отдельной переписки, и статус всего аккаунта могут различаться. Модель способна понять из сообщения, что собеседнику 13 лет, но это само по себе не означает немедленного включения подросткового режима. Именно этот разрыв проверяла Common Sense Media.

Что показал тест подросткового режима

6 октября Common Sense Media, организация, оценивающая цифровые продукты для детей и семей, опубликовала результаты проверки ChatGPT for Teens. Авторы протестировали сервис более чем на 4000 запросах до и после запуска подросткового режима.

Около 1000 запросов за неделю отправили со взрослых аккаунтов, пользователи которых демонстрировали подростковые признаки: упоминали половое созревание, задания для средней школы и код школьного шкафчика, а затем неоднократно писали, что им 13 лет. ChatGPT учитывал названный возраст в ответах, но аккаунты не переключились в подростковый режим.

Проверка также затронула родительские предупреждения о кризисных разговорах. На новых связанных аккаунтах тестировщики в течение 15, 30 и 60 минут обсуждали самоповреждение или сокрытие расстройства пищевого поведения, но родители не получили уведомлений. В более широком тесте четыре предупреждения пришли только для аккаунтов, где чувствительные темы обсуждались несколько недель.

Среди ответов, в которых клинические эксперты Common Sense Media считали необходимым указать кризисный ресурс, ChatGPT называл горячую линию в 33% случаев до запуска подросткового режима и в 23% после него. Направление к конкретному врачу или специалисту по психическому здоровью встречалось в 68% и 58% ответов соответственно.

OpenAI оспорила выводы и методику Common Sense Media. Представитель компании заявил, что основная часть тестирования могла начаться и закончиться до завершения активации родительских функций, из-за чего результаты не отражают работу защиты на практике. Common Sense Media сообщила, что после тестов OpenAI предупредила о возможной задержке активации на новых связанных аккаунтах в несколько часов, однако исследователи наблюдали сбои и за пределами этого периода.

Эксперимент не показывает, как часто система ошибается среди всех пользователей ChatGPT. Он выявляет более узкую проблему: распознавание подросткового возраста внутри разговора не обязательно меняет статус аккаунта, от которого зависит применение защитных ограничений.

Как законы связывают ограничения с проверкой возраста

28 октября губернатор Нью-Йорка Кэти Хокул подписала закон, запрещающий предлагать несовершеннолетним ряд опасных функций ИИ-чат-ботов. В перечень вошли имитация человека, формирование эмоциональной зависимости, поддержка самоповреждения и сексуально откровенные разговоры.

Ограничения должны применяться к пользователям младше 18 лет, а также к тем, чей взрослый возраст компания ещё не подтвердила. Закон требует проверять возраст, предлагать несколько способов подтверждения, включая хотя бы один вариант без обязательного государственного удостоверения личности, и удалять возрастные данные после использования. Он вступит в силу через шесть месяцев.

Закон Нью-Йорка связывает доступ к функциям чат-ботов с подтверждением возраста. Поэтому ошибка возможна в обе стороны: несовершеннолетний может остаться без предусмотренных фильтров, а взрослый — получить подростковые ограничения и необходимость отдельно подтверждать свой возраст.

Похожий механизм использует Google. Компания оценивает, старше или младше 18 лет владелец аккаунта, по уже связанным с ним данным, а ошибочно классифицированным взрослым предлагает загрузить удостоверение личности или селфи. Это позволяет применять возрастные настройки без обязательной проверки документов каждого пользователя, но делает результат зависимым от автоматической оценки.

Защита подростков, ошибки и передача данных

Автоматическая оценка позволяет включать подростковые фильтры без проверки документов у каждого пользователя. Для первоначального решения ChatGPT использует сведения, уже связанные с аккаунтом, включая заявленный возраст, время активности и срок его существования.

Такой подход создаёт два противоположных риска. Если несовершеннолетнего сочтут взрослым, предусмотренные для подростков ограничения могут не включиться. Если взрослого ошибочно отнесут к пользователям младше 18 лет, он получит более строгий режим и должен будет отдельно оспаривать результат.

Именно при исправлении ошибки появляется дополнительная передача данных: взрослому предлагают отправить селфи Persona. Первичная оценка и подтверждение возраста через партнёра решают разные задачи — первая автоматически выбирает режим по косвенным сигналам, а второе позволяет изменить уже присвоенный статус.

От результата зависит доступ к практическим сведениям об оружии и системах безопасности. Для подросткового аккаунта такие ответы должны блокироваться даже при нейтральном запросе. При этом сокращённые ответы о массовых нападениях распространяются на всех пользователей, поэтому подтверждение совершеннолетия это ограничение не отменит.

Тест Common Sense Media показал, что ошибка возможна не только в отношении взрослых: содержание переписки, включая неоднократное указание возраста 13 лет, не всегда сразу переводило аккаунт в подростковый режим. Поэтому эффективность защиты зависит не только от самих фильтров, но и от того, какой возрастной статус система присвоила аккаунту.

Что изменится для пользователей в России

OpenAI не назвала страны, в которых начнётся постепенное развёртывание новых ограничений, и отдельно не указала, распространятся ли они на российские аккаунты. Объявление также не устанавливает отдельного срока запуска для России.

Если обновление появится на российском аккаунте, взрослого пользователя могут затронуть два изменения. Ограничение подробностей о массовых нападениях будет действовать независимо от возраста. А если система ошибочно отнесёт аккаунт к пользователям младше 18 лет, ChatGPT должен будет ограничить практические сведения об оружии и системах безопасности.

Для исправления ошибочного статуса OpenAI описывает проверку возраста с помощью селфи через Persona. Отдельных условий этой процедуры для российских аккаунтов компания не назвала.