AI Poisoning: мошенники манипулируют ChatGPT, чтобы направлять пользователей в фейковые магазины
С ростом популярности диалоговых интерфейсов меняется и подход к онлайн‑покупкам: вместо традиционных поисковых систем пользователи все чаще обращаются к ИИ‑ассистентам с вопросами о лучших товарах для своих нужд. Такой формат взаимодействия становится основой так называемого Agentic Commerce.
Однако вместе с этим появляется и новая поверхность для атак. Как показывает случай в Великобритании, мошенники могут применять метод AI Poisoning, чтобы манипулировать ответами ChatGPT и направлять пользователей на фейковые интернет‑магазины.
Ситуация демонстрирует, что по мере распространения Agentic Commerce риски для пользователей и платформ могут смещаться с привычных каналов поиска к диалоговым системам, через которые люди получают рекомендации и принимают решения о покупке.
Ключевые факты
Мошенники могут манипулировать ответами ChatGPT, чтобы направлять пользователей на фейковые интернет‑магазины.
В материале описан случай такого мошенничества, зафиксированный в Großbritannien.
Рост модели покупок через диалог с ИИ‑ассистентами вместо использования поисковых систем связывается с развитием Agentic Commerce.
Расширение Agentic Commerce рассматривается как новая поверхность атаки для онлайн‑мошенников.