Исследование: ошибочные ответы AI снижают точность, но повышают уверенность пользователей

Исследование под руководством профессора психологии Университета Милан-Бикокка Валерио Капраро показало: ошибочные рекомендации AI могут снижать точность ответов у людей и одновременно усиливать их уверенность в собственной правоте. Участникам задавали шесть вопросов о малоизвестных деталях фильмов, причем для эксперимента подбирали задания, на которых модель AI регулярно ошибалась.

Как пишет Digital Trends, исследователи хотели понять, как меняется поведение людей при обращении к AI вне зависимости от качества его советов. В экспериментах без AI участники отказывались отвечать примерно в 36–44% случаев. Когда AI становился доступен, доля отказов падала до 3–6%, но вместе с этим снижалась и точность ответов: с 27,5% до 9,2%.

По словам Капраро, AI может уменьшать уровень уверенности, который человеку обычно нужен, чтобы решиться на ответ. Этот эффект сохранялся даже в ситуациях, когда подсказки AI показывались автоматически, а не запрашивались пользователем. Финансовые поощрения и штрафы делали участников осторожнее и немного повышали точность, хотя общая тенденция оставалась прежней.

Исследователь считает, что AI должен дополнять человеческое суждение, а не полностью подменять его. Кроме того, он выразил обеспокоенность тем, что постоянный доступ к готовым ответам способен повлиять на восприятие сомнения как естественной части обучения, особенно у детей.