Исследователи предложили RoPoLL для более устойчивой оценки ответов LLM

Исследователи представили метод RoPoLL (Robust Panel of LLM-as-Judge), который должен повысить устойчивость панельной оценки языковых моделей. Работа посвящена подходу PoLL: в нем несколько LLM выступают как жюри и формируют итоговую оценку на основе консенсуса, а не решения одного судьи.

Как пишет arXiv cs.AI (Artificial Intelligence), авторы формализовали поведение такого «жюри LLM» в рамках модели Huber contamination. Они пришли к выводу, что PoLL может получать неограниченное смещение даже при небольшой доле ошибок, если хотя бы один из судей демонстрирует типичные для LLM сбои, включая mode collapse, sycophancy или safety refusal. По словам исследователей, эта проблема сохраняется независимо от размера панели.

В RoPoLL сама панель оценщиков остается прежней, но меняется способ агрегации результатов. Вместо обычного консенсуса используется устойчивый оцениватель среднего значения на основе geometric median (GM). Авторы называют подход tuning-free и отмечают для него breakdown point на уровне 1/2. В работе также приводятся теоретические оценки ошибки и сравнение с Tukey halfspace median.

Эксперименты проводились на 13 open-weight judge-моделях размером от 4B до 675B, а также на трех reward-model benchmark.