Meta начнет уведомлять родителей о разговорах подростков с Meta AI о самоповреждении

Meta (деятельность Meta признана экстремистской и запрещена в РФ) запустила систему уведомлений для родителей, если подросток обсуждает суицид или самоповреждение в чатах с Meta AI. Как сообщает The Next Web (TNW), функция уже доступна в США, Великобритании, Австралии и Канаде для пользователей инструментов родительского контроля Instagram (принадлежит компании Meta, признанной экстремистской и запрещённой в РФ). До конца года её планируют расширить и на другие страны.

В компании говорят, что для этого создали отдельную ИИ-систему, способную распознавать явные упоминания причинения вреда себе. Каждую переписку, которую помечает алгоритм, дополнительно проверяет человек перед отправкой уведомления. Если намерения подростка остаются неясными, Meta, по её словам, всё равно предпочитает действовать осторожно и информировать родителей. При этом сами сообщения им не показывают: родители получают только уведомление и рекомендации экспертов о том, как начать разговор.

Новая функция дополняет уже существующие инструменты безопасности. Среди них уведомления о поисковых запросах в Instagram и возможность видеть темы общения подростка с Meta AI. Кроме того, компания разрабатывает механизм для оповещения экстренных служб в случаях, когда переписка указывает на непосредственный риск для человека. По данным Meta, в прошлом году компания направила более 19 тыс. подобных обращений по публикациям в Facebook и Instagram.

Meta также отмечает, что Meta AI уже обучен избегать разговоров с подростками на сексуальные и романтические темы, а также тем, связанных с алкоголем. Для Meta AI дополнительно расширили действие более строгого режима Limited Content: в этом режиме чат-бот отклоняет более широкий круг запросов.

На этом фоне усиливается и внимание регуляторов к ИИ-сервисам для несовершеннолетних. В материале упоминаются проверки Ofcom в отношении TikTok, новые ограничения в Австралии и ужесточение правил для чат-ботов в Канаде.