К содержанию
hegai.media
Новости

Исследование: AI-чатботы оказались убедительнее людей в сценариях романтического мошенничества

Исследование: AI-чатботы оказались убедительнее людей в сценариях романтического мошенничества

Исследователи из Amrita Vishwa Vidyapeetham, Ca' Foscari University of Venice, University of Melbourne и Ben-Gurion University of the Negev сравнили, как AI-чатботы и люди выстраивают доверие в сценариях романтического мошенничества. В эксперименте участвовали ChatGPT, Claude и Gemini. Как сообщает IT Home, участники исследования не знали настоящую цель теста и были уверены, что в любом случае переписываются с реальным человеком.

В работе моделировали так называемый Long Con: схему, при которой мошенники месяцами поддерживают контакт с жертвой, постепенно втираются в доверие, а затем склоняют к переводу денег или инвестициям в фиктивные криптопроекты. По данным исследования, AI-чатботы не только успешно имитировали людей, но по ряду метрик оказались убедительнее участников-людей.

На финальном этапе эксперимента испытуемым предлагали выполнить действие вроде установки приложения. В сценариях с людьми на это согласились 18% участников. При общении с AI показатель приблизился к половине. Уровень доверия к AI-собеседникам участники тоже оценивали выше.

После публикации результатов Wired запросил комментарии у Anthropic, OpenAI и Google. OpenAI и Google не ответили. Представитель Anthropic заявил, что политика компании запрещает использовать Claude для мошенничества или выдачи себя за человека, также компания применяет технические меры против подобных сценариев.

Ключевые факты

  • В исследовании участвовали ChatGPT, Claude и Gemini.

  • Эксперимент моделировал схему Long Con с длительным построением доверия перед предложением вложиться в фиктивный проект.

  • При общении с человеком выполнить просьбу вроде установки приложения согласились 18% участников, при общении с AI, почти половина.

  • Anthropic заявила, что политика компании запрещает использовать Claude для мошенничества и имитации человека.

Вопросы и ответы

Насколько AI оказался эффективнее людей в социальной инженерии на практике?

На этапе, где собеседник просил установить приложение, согласились 18% участников при общении с человеком и почти половина при общении с AI-чатботом.

Какие именно модели участвовали в тесте и какой сценарий они отрабатывали?

В исследовании тестировали ChatGPT, Claude и Gemini. Эксперимент моделировал схему Long Con, где злоумышленник месяцами выстраивает доверие перед просьбой вложиться в фиктивный проект или перевести деньги.

Как на результаты отреагировали разработчики моделей?

После публикации исследования OpenAI и Google не ответили на запросы журналистов, а Anthropic заявила, что политика компании запрещает использовать Claude для мошенничества и имитации человека, и что против таких сценариев применяются технические меры.

Контекст по теме