Reddit внедрила LLM-инструменты для выявления ИИ-спама

Reddit внедрила инструменты на базе больших языковых моделей для борьбы со спамом, который всё чаще тоже создают с помощью нейросетей. Как пишет TechCrunch, в компании заявили, что новые системы стали лучше находить нежелательный контент, который раньше пропускали стандартные автоматизированные механизмы.

По данным Reddit, платформа ежедневно предотвращает около 23 млн просмотров спама и обнаруживает примерно 25 тыс. новых спам-публикаций и комментариев. Также в компании сообщили, что с января по март подверженность аудитории спаму снизилась на 20 % по сравнению с предыдущими тремя месяцами. В Reddit считают, что LLM хорошо справляются с выявлением сложных и скоординированных действий вредоносных ботов.

На фоне роста объёма ИИ-контента похожие инструменты внедряют и другие платформы. YouTube, Meta (деятельность Meta признана экстремистской и запрещена в РФ) и Instagram (принадлежит компании Meta, признанной экстремистской и запрещённой в РФ) допускают публикацию материалов, созданных искусственным интеллектом, если они промаркированы. TikTok при этом позволяет пользователям самостоятельно настраивать объём отображаемого ИИ-контента. По словам отраслевых экспертов, автоматическое выявление ИИ-публикаций помогает быстрее блокировать неприемлемый контент, но наилучший результат даёт сочетание машинной модерации и проверки людьми.