Исследование показало: контент на Reddit можно довольно легко использовать, чтобы влиять на ответы систем AI‑поиска. Авторы работы пишут, что манипулировать такими результатами «тривиально легко», если публиковать нужные посты и поддерживать обсуждения на платформе.
По их наблюдениям, материалы из дискуссий на Reddit иногда попадают в наборы данных, на которые опираются системы AI‑поиска при формировании ответов. Если сообщения создаются специально, они могут менять то, какую информацию такие системы в итоге показывают пользователям.
В работе говорится о потенциальной уязвимости. Открытые площадки с пользовательским контентом способны превращаться в инструмент, с помощью которого можно намеренно менять то, как AI‑поисковые системы интерпретируют и пересказывают информацию.
Ключевые факты
В материале утверждается, что, согласно исследованию, использовать Reddit для манипулирования результатами AI‑поиска «тривиально легко».
Обсуждение материала на Hacker News (item id 48595077) на момент публикации имеет 9 points и 1 комментарий.