Character.AI начнёт отключать open-ended chat для пользователей младше 18 лет
Character.AI сообщила, что со следующей недели начнёт удалять open-ended chat для пользователей младше 18 лет. О грядущих изменениях компания объявила 29 октября и подчеркнула, что для подростков это заметное изменение, поэтому решила подробно объяснить, как будет проходить внедрение. В подготовке участвовали партнёры по безопасности, включая ConnectSafely, а также эксперты по безопасности подростков в интернете. Параллельно компания запустила новое партнёрство с Koko, чтобы поддержать долгосрочные усилия по улучшению благополучия пользователей.
С конца октября сервис ограничил open-ended chat для подростков двумя часами в день. Затем лимит постепенно снизили до одного часа в день для пользователей в US. Одновременно началось развёртывание технологии age assurance в US, в ближайшее время её планируют расширить глобально. Подросткам, которые подключили Parental Insights, отправили письма с уведомлением родителей о предстоящем переходе. После переключения на новый формат родители также получат уведомления. В приложении и на сайте пользователям показывают pop-up‑сообщения и дают доступ к списку ресурсов с поддерживающими и творческими пространствами.
Character.AI также сотрудничает с Koko, nonprofit, которая предоставляет бесплатные self-guided инструменты эмоциональной поддержки для молодых пользователей на платформах. Эти сервисы уже включены в ресурсную страницу. В дальнейшем их планируют интегрировать прямо в продукт: система должна помогать выявлять high-risk content и предлагать пользователям полезные ресурсы на уровне чата. Кроме того, компания работает с ThroughLine, чтобы предложить пользователям продуманный off-boarding. Интеграция поможет им проанализировать своё использование open-ended chat, найти альтернативы и при необходимости обратиться к проверенным ресурсам. В сервисы Character.AI также добавят verified helpline network ThroughLine, 1,500 services across 170 countries.
Начиная с Monday, November 24, компания начнёт удалять open-ended chat для пользователей младше 18 лет в US. После этого изменения вскоре появятся и на других рынках. Процесс пройдёт в два этапа: для первой группы пользователей отключение начнётся November 24 и будет разворачиваться в течение нескольких дней, для второй группы, через несколько недель после первой.
Ключевые факты
С конца октября для пользователей младше 18 лет в США лимит open-ended chat был сначала ограничен двумя часами в день, а затем постепенно снижен до одного часа в день.
С понедельника 24 ноября компания начнет удалять функцию open-ended chat для пользователей младше 18 лет в США, после чего изменения распространятся и на другие рынки.
Компания запустила партнерство с некоммерческой организацией Koko, которая предоставляет бесплатные инструменты самопомощи и эмоциональной поддержки для молодых пользователей.
В продукт интегрируется сеть проверенных линий помощи ThroughLine, 1,500 сервисов в 170 странах, многие из которых ориентированы на подростков.