Европейские исследователи предупредили о рисках ИИ-компаньонов для конфиденциальности

Европейские психологи и юристы изучили поведение пользователей популярных приложений с ИИ-компаньонами. Они пришли к выводу, что такие сервисы используют классические психологические триггеры, чтобы быстрее формировать эмоциональную зависимость. Исследование описывает несколько этапов взаимодействия с цифровым партнером: от первого интереса до глубокой интимной привязанности и последующего кризиса доверия.

Как сообщает Хайтек (hightech.fm), одной из главных угроз исследователи считают целенаправленный сбор конфиденциальных данных. Во время имитации сочувствия и поддержки чат-боты побуждают пользователей делиться личной информацией, в том числе сведениями о здоровье, финансах и личных проблемах.

Авторы работы отдельно обращают внимание на юридический статус таких данных. В отличие от переписки между супругами или членами семьи, общение с ИИ не защищено иммунитетом конфиденциальности личной жизни. Признания пользователей при этом рассматриваются как обычные логи данных. Исследователи утверждают, что разработчики могут агрегировать, анализировать и продавать эти сведения маркетинговым компаниям и другим третьим лицам без согласия пользователя.