Исследователи: AI-ботов можно манипулировать через Reddit всего 13 словами
AI-боты, которые используют источники вроде Reddit при формировании ответов, могут быть подвержены манипуляциям. К такому выводу пришли исследователи, изучившие, как подобные системы обрабатывают информацию из пользовательских обсуждений.
По их данным, для влияния на ответы ботов может быть достаточно всего 13 слов. Это показывает, что даже простые формулировки в публичных обсуждениях способны воздействовать на то, какие сведения система учитывает при генерации ответа.
Исследователи отмечают, что такая уязвимость может создавать проблемы для пользователей. Если боты опираются на контент из открытых площадок вроде Reddit, существует риск, что их ответы будут формироваться под влиянием намеренно размещённых или искажённых сообщений.
Ключевые факты
Исследователи пришли к выводу, что для манипуляции ИИ-ботами может быть достаточно сообщения длиной всего 13 слов.
Речь идет о ботах, которые используют источники вроде Reddit при формировании ответов.
По выводам исследователей, такие системы можно манипулировать очень простыми способами.
Проблема может создавать риски для пользователей, получающих ответы от таких ИИ-ботов.