Reddit внедрила инструменты на базе больших языковых моделей для борьбы со спамом, который всё чаще тоже создают с помощью нейросетей. Как пишет TechCrunch, в компании заявили, что новые системы стали лучше находить нежелательный контент, который раньше пропускали стандартные автоматизированные механизмы.
По данным Reddit, платформа ежедневно предотвращает около 23 млн просмотров спама и обнаруживает примерно 25 тыс. новых спам-публикаций и комментариев. Также в компании сообщили, что с января по март подверженность аудитории спаму снизилась на 20 % по сравнению с предыдущими тремя месяцами. В Reddit считают, что LLM хорошо справляются с выявлением сложных и скоординированных действий вредоносных ботов.
На фоне роста объёма ИИ-контента похожие инструменты внедряют и другие платформы. YouTube, Meta* и Instagram* допускают публикацию материалов, созданных искусственным интеллектом, если они промаркированы. TikTok при этом позволяет пользователям самостоятельно настраивать объём отображаемого ИИ-контента. По словам отраслевых экспертов, автоматическое выявление ИИ-публикаций помогает быстрее блокировать неприемлемый контент, но наилучший результат даёт сочетание машинной модерации и проверки людьми.
Ключевые факты
Reddit заявила о предотвращении около 23 млн просмотров спама в день
Платформа выявляет примерно 25 тыс. новых спам-публикаций и комментариев ежедневно
По утверждению компании, подверженность аудитории спаму снизилась на 20 % по сравнению с периодом с января по март
YouTube, Meta и Instagram требуют маркировку ИИ-контента, а TikTok позволяет регулировать объём его отображения