Исследование выявило расхождения и возможную предвзятость в финансовых советах от GenAI-платформ

Исследование в Journal of Financial Planning показало, что генеративные ИИ-сервисы могут по-разному советовать, как распоряжаться личными финансами. Причем в некоторых случаях на ответы влияли пол и раса, указанные в запросе. Авторы работы протестировали ChatGPT, Claude, Copilot, DeepSeek, Gemini, Meta AI (деятельность Meta признана экстремистской и запрещена в РФ) и Perplexity на сценариях с резервными накоплениями, пенсионными выплатами и распределением инвестиционного портфеля.

Как сообщает Quartz, исследователи несколько раз отправляли одинаковые запросы, меняя только демографические характеристики главы домохозяйства. Советы по размеру финансовой подушки отличались довольно сильно: от 19 500 до 37 500 $. Распределение активов в портфелях тоже заметно менялось в зависимости от платформы. В вопросах пенсионных выплат большинство сервисов ориентировались на правило 4%, но две платформы для части демографических профилей рекомендовали вывод средств на уровне 5%.

Авторы отдельно обратили внимание на различия между рекомендациями для разных групп пользователей. К примеру, DeepSeek советовал более высокие доли акций, наличных средств и альтернативных активов для домохозяйств с описанием White male и White female. Для African American male сервис, напротив, рекомендовал 75% облигаций против 30% у двух других групп.

Исследователи также подчеркнули, что ответы GenAI могут звучать уверенно, хотя при этом оставаться неполными или вводить пользователей в заблуждение. Кроме того, такие инструменты не несут фидуциарных обязательств перед пользователями.