Как сообщает Engadget, губернатор Нью-Йорка Кэти Хокул 28 октября подписала закон о защите несовершеннолетних при общении с ИИ-чат-ботами. Разработчики должны будут проверять возраст и применять специальные ограничения к пользователям младше 18 лет, а также к тем, чьё совершеннолетие ещё не подтверждено. Закон вступит в силу через шесть месяцев.
Компаниям придётся предложить хотя бы один способ проверки, который не основан исключительно на государственном удостоверении личности, а после проверки удалить полученные сведения о возрасте.
Чат-ботам, которыми могут пользоваться несовершеннолетние, запретят выдавать себя за живых людей, приписывать себе человеческие эмоции и заявлять о дружеских, романтических, профессиональных или властных отношениях с ребёнком. Ограничения также охватят эмоциональные вопросы без запроса, использование сведений о здоровье из прежних разговоров, поощрение самоубийства, самоповреждения, расстройств пищевого поведения, употребления алкоголя и наркотиков, а также призывы хранить секреты, изолироваться или не обращаться за помощью.
Читайте также
За каждое нарушение предусмотрен гражданский штраф до 25 тысяч долларов.
Закон вводит обязательные правила на фоне споров о надёжности уже существующих средств защиты. 7 октября Youth AI Safety Institute организации Common Sense Media присвоил подростковому режиму ChatGPT оценку Unacceptable Risk — «неприемлемый риск». Исследователи проверили более 4000 запросов через аккаунты пользователей от 13 до 17 лет, а ответы оценили детские психиатры и педиатр.
В отдельном эксперименте более чем с дюжиной новых подростковых аккаунтов, связанных с аккаунтами родителей, разговоры продолжительностью до часа о суициде, самоповреждении или расстройствах пищевого поведения не вызвали ни одного уведомления. Во время более длительных тестов, продолжавшихся несколько недель, исследователи получили четыре уведомления. ChatGPT также не всегда направлял подростков к кризисной службе или врачу.
OpenAI оспорила выводы исследования. Компания заявила, что значительная часть тестирования могла завершиться до полной активации родительского контроля, поэтому методика, по её мнению, не отражает актуальную работу защиты.