Пользователи Reddit решили проверить, как ИИ‑поисковики справляются с недостоверной информацией. Для этого они запустили вымышленную историю: будто бы Вэнс укусил Дональда Трампа и заразил его бешенством. Затем участники начали постепенно распространять этот сюжет в сети, создавая ощущение, что у него есть подтверждения из разных источников.
В рамках эксперимента подготовили целый набор материалов. Появились фальшивые посты, поддельные скриншоты и отдельный псевдосайт, оформленный как независимый источник. Вместе эти элементы создавали правдоподобную картину. За счет такой связки выдуманная история смогла пройти через механизмы доверия, на которые опираются поисковые системы с ИИ.
Как сообщает SecurityLab (by Positive Technologies), результаты показали интересный эффект. Если в сети уже существует несколько связанных публикаций и некие «доказательства», ИИ‑поисковики могут воспринимать даже полностью вымышленный сюжет как правдоподобный и пересказывать его в ответах. Эксперимент показывает, что координированное создание контента способно заметно влиять на то, как подобные системы формируют свои ответы.