Компания рассказала об ИИ-инструментах для борьбы с эксплуатацией детей в своих приложениях

Meta (деятельность Meta признана экстремистской и запрещена в РФ) заявила, что продолжает усиливать меры против распространения материалов, связанных с эксплуатацией детей, в Facebook (принадлежит компании Meta, признанной экстремистской и запрещённой в РФ), Instagram и WhatsApp. Компания сообщила, что использует системы обнаружения на базе ИИ, автоматически удаляет подозрительные аккаунты и блокирует ссылки, нарушающие правила платформ.

Как пишет YourStory, заявление появилось спустя несколько дней после уведомления от индийских властей из-за рекламы в Instagram, связанной с Child Sexual Exploitative and Abuse Material. В Meta заявили, что не нацеливают рекламу с участием детей на пользователей с неподобающими интересами. Вместо этого компания применяет технологии для выявления подозрительной активности. По данным Meta, в прошлом году автоматически удалили более 4 млн таких аккаунтов и 36 млн единиц контента, связанного с эксплуатацией детей.

Компания также сообщила, что обновлённые системы модерации на базе ИИ теперь охватывают языки, на которых говорит 98% пользователей интернета. В Индии за последние шесть месяцев инструменты Meta помогли удалить 160 тыс. аккаунтов, публиковавших подозрительные ссылки, связанные с эксплуатационной активностью. В компании добавили, что часть нарушающих правила объявлений и связанных с ними аккаунтов отключили ещё до обращения властей.

Ранее Министерство электроники и информационных технологий Индии потребовало от Instagram удалить рекламу и контент, связанный с CSEAM, а также предоставить подробное объяснение в течение семи дней. Проверку начали после публикации BBC, где утверждалось, что алгоритмы рекомендаций Meta продвигали видео с подобным контентом и связанную с ним рекламу.