OpenAI 30 октября объявила о новых ограничениях безопасности ChatGPT. В ближайшие недели сервис начнёт скрывать от пользователей младше 18 лет практические сведения об оружии и системах безопасности, которые можно использовать во вред. Ограничение будет действовать, даже если вопрос выглядит безобидным, а система не обнаружила намерения совершить насилие, сообщает Reuters.
Для всех пользователей ChatGPT станет менее подробно описывать совершённые в прошлом массовые нападения и людей, которые их устроили. Чат-бот не будет реконструировать атаку, перечислять применённое оружие, объяснять, как нападавший его получил, и подробно сравнивать последствия разных нападений.
Пользователи по-прежнему смогут спрашивать о последствиях нападений для жертв и сообществ, а также о признаках подготовки к насилию.
Читайте также
Если переписка показывает, что человек зациклился на насилии или причинении серьёзного вреда другому человеку, ChatGPT сможет автоматически завершить разговор. После нескольких таких случаев компания может временно приостановить аккаунт.
OpenAI также усилила автоматическое определение возраста. ChatGPT будет постоянно оценивать новые сигналы, включая поведение владельца аккаунта, и сможет переводить предполагаемых несовершеннолетних в режим с подростковыми ограничениями. Совершеннолетним, ошибочно попавшим под них, предложат подтвердить возраст через сервис Persona.
С июля родители с привязанными аккаунтами получают уведомления, если подростковый аккаунт отключают из-за разговоров о насилии. Оповещения о временной приостановке после нескольких таких разговоров ещё разрабатываются.
За третий квартал 2026 года OpenAI направила более 200 обращений в правоохранительные органы в связи с возможными планами насилия, следует из сообщения Bloomberg Law.
В начале 2027 года компания собирается опубликовать первый Community Safety Report — отчёт о выявлении и предотвращении угроз насилия. Он охватит вторую половину 2026 года и будет включать обезличенные примеры и статистику. Затем такие документы планируется выпускать раз в полгода.
Обновление выходит на фоне проверок подростковой защиты и судебного давления: Common Sense Media сообщила, что в её тестах ChatGPT часто поздно предупреждал родителей или не делал этого при разговорах о суициде, самоповреждении и расстройствах пищевого поведения, а восемь штатов США подали иски к OpenAI из-за рисков для детей.