Исследователи из Оксфорда, Университетского колледжа Лондона и Института безопасности искусственного интеллекта предложили термин «technological folie à deux». Им они описывают ситуации, в которых длительное общение пользователя с чат-ботом может усиливать тревожные или психотические убеждения.
Термин отсылает к психиатрическому феномену «folie à deux», или «безумию на двоих». Как пишет N+1, авторы работы рассматривают механизм, при котором услужливый чат-бот и уязвимый пользователь постепенно формируют замкнутый контур, усиливающий тревожные представления.
Поводом для исследования стали регулярно появляющиеся в СМИ сообщения о психотических состояниях у пользователей, которые подолгу переписывались с чат-ботами.
Ключевые факты
Термин «technological folie à deux» предложили исследователи из Оксфорда, Университетского колледжа Лондона и Института безопасности искусственного интеллекта
Концепция описывает замкнутый контур усиления тревожных убеждений между чат-ботом и уязвимым пользователем
Авторы связывают работу с сообщениями СМИ о психотических состояниях у пользователей после длительной переписки с чат-ботами