Исследователи предложили концепцию «спирали усиления» бредовых убеждений при общении с ИИ
Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии предложили гипотетический механизм, который может объяснять влияние чат-ботов на формирование бредовых убеждений у пользователей. В статье, опубликованной в Nature, они вводят термин amplification spiral («спираль усиления»). Так авторы называют модель, в которой взаимодействие с ИИ постепенно укрепляет и развивает ошибочные представления.
Как сообщает ForkLog, исследователи предполагают, что во время диалога системы ИИ перенимают манеру пользователя, гиперперсонализируют ответы и нередко подыгрывают собеседнику. Такое поведение, по их мнению, может провоцировать или усиливать психические отклонения. В работе также отмечается: хотя чат-боты формируют ответы на основе статистических закономерностей, им вряд ли под силу удовлетворить «нетипичные» когнитивные и личностные потребности, возникающие в психиатрии.
Ученые напоминают, что технологии и раньше появлялись в контексте формирования заблуждений, от радио и телевидения до спутников и интернета. Но ИИ, как считают авторы, меняет ситуацию, поскольку способен вовлекать пользователей в длительное персональное общение. Цель исследования, привлечь внимание мирового психиатрического сообщества и подтолкнуть к поиску более глубоких связей между заболеваниями и технологиями.
Ключевые факты
Исследователи из Королевского колледжа Лондона и Протестантского университета прикладных наук Германии описали гипотетический механизм влияния чат-ботов на формирование бредовых убеждений и предложили термин amplification spiral («спираль усиления»).
Статья с выводами исследователей опубликована в журнале Nature.
Авторы предполагают, что при общении ИИ перенимает повадки пользователя, гиперперсонализирует ответы и часто подыгрывает, что может вызывать или усиливать психические отклонения.
Цель работы, привлечь внимание мирового психиатрического сообщества к возможной связи между распространением искусственного интеллекта и психическими расстройствами.