Исследование Princeton University связало использование LLM при найме с усилением предвзятости
Компании всё чаще используют Large Language Models для предварительного отбора кандидатов: резюме нередко проверяет ИИ ещё до того, как его увидит человек. Исследователи при этом предупреждают, что такие системы могут переносить в процесс найма предвзятость из обучающих данных.
Как сообщает t3n, новое исследование Princeton University показывает: LLM способны формировать предубеждения не только на основе данных обучения, но и из опыта работы с задачами. Авторы работы считают, что из-за этого стереотипизация кандидатов может проявляться сильнее, чем при решениях, которые принимают люди.
Отдельно в материале упоминается развитие агентных ИИ-систем. Такие модели сохраняют информацию и пытаются учиться на предыдущем опыте, из-за чего искажения при использовании в HR-процессах могут накапливаться ещё сильнее.
Ключевые факты
Исследование подготовили учёные Princeton University.
Авторы работы связывают усиление предвзятости с тем, что LLM перенимают установки из обучающих данных.
В материале упоминается влияние агентных ИИ-систем, которые сохраняют информацию и обучаются на предыдущем опыте.
По данным исследования, LLM при отборе кандидатов могут стереотипизировать соискателей сильнее, чем люди.