Исследование: Reddit можно легко использовать для манипуляции результатами AI‑поиска

Исследование показало: контент на Reddit можно довольно легко использовать, чтобы влиять на ответы систем AI‑поиска. Авторы работы пишут, что манипулировать такими результатами «тривиально легко», если публиковать нужные посты и поддерживать обсуждения на платформе.

По их наблюдениям, материалы из дискуссий на Reddit иногда попадают в наборы данных, на которые опираются системы AI‑поиска при формировании ответов. Если сообщения создаются специально, они могут менять то, какую информацию такие системы в итоге показывают пользователям.

В работе говорится о потенциальной уязвимости. Открытые площадки с пользовательским контентом способны превращаться в инструмент, с помощью которого можно намеренно менять то, как AI‑поисковые системы интерпретируют и пересказывают информацию.