Исследование: улучшение ответов ИИ в диалоге не всегда связано с качеством обратной связи

Исследователи разобрались, в каких случаях текстовая обратная связь действительно помогает языковым агентам улучшать результаты, а когда рост качества связан с повторными попытками, исправлением формата ответа или дополнительными вычислениями во время выполнения задачи. Работа посвящена многотуровым взаимодействиям, где повышение итоговой точности может создавать ложное впечатление эффективного обучения на фидбэке.

Как пишет arXiv cs.AI (Artificial Intelligence), авторы разработали контролируемый протокол взаимодействия «ученик, учитель» и протестировали его на Omni-MATH, Codeforces, BBEH Linguini и ARC-AGI1. В исследовании участвовали тринадцать open-weight моделей: они поочередно выступали и учениками, и учителями. Авторы сравнили внешнюю обратную связь, самообратную связь и самостоятельное уточнение ответов без подсказок. Кроме того, они меняли историю взаимодействия, сложность задач и доступ учителя к привилегированной информации о задаче.

Результаты показали, что улучшение в многотуровом режиме часто не связано с использованием действительно полезной обратной связи. Самостоятельно сгенерированный фидбэк давал лишь ограниченный прирост по сравнению с самостоятельным уточнением без подсказок. При этом наиболее сильные внешние учителя обеспечивали заметно более высокие улучшения, и они были связаны именно с качеством обратной связи. Авторы также отмечают, что прирост результатов сильнее зависит от способности ученика использовать фидбэк, чем от самого факта интерактивного обмена.