Исследование: восприятие AI-собеседования зависит от внешности цифрового интервьюера

Исследователи выяснили: кандидаты по-разному воспринимают один и тот же отказ от AI-системы найма, в зависимости от расы и пола аватара, который сообщает решение. В эксперименте около 220 участников прошли имитацию собеседования на вымышленную позицию в службе поддержки. С ними взаимодействовал один из четырех фотореалистичных AI-аватаров. Все кандидаты получили отказ, но оценки справедливости процесса заметно различались.

Как пишет Digital Trends, участники, совпадавшие с аватаром только по одному признаку, по полу или цвету кожи, чаще считали процедуру менее справедливой, чем те, у кого было совпадение сразу по двум характеристикам или не было совпадений вовсе. Точную причину такого эффекта авторы исследования не определили. По их версии, частичное сходство могло влиять на ожидания от общения и делать отказ более личным.

До получения отказа уровень доверия к AI оставался примерно одинаковым для всех комбинаций аватаров. После негативного решения участники становились более скептичны к процессу, а несовпадение по расовому признаку чаще приводило к восприятию результата как предвзятого. С помощью отслеживания взгляда исследователи также заметили, что участники дольше рассматривали лица с отличающимся цветом кожи.

Авторы подчеркивают: эксперимент проводился на вымышленной вакансии и не доказывает, что такой же эффект проявляется в реальном найме. Тем не менее работа показывает, что восприятие справедливости AI-систем может зависеть не только от самого алгоритма, но и от интерфейса, через который человек получает решение.