Исследователи представили фреймворк Heuresis для автономных AI‑агентов, которые занимаются задачами научных исследований в машинном обучении. В системе сам исследовательский процесс описан как набор общих и комбинируемых примитивов. Предполагается, что такой подход позволит агентам свободнее исследовать пространство идей, а не сводить работу к простой генерации кода.
В работе реализованы шесть стратегий поиска. Среди них базовая greedy‑стратегия, две архивные стратегии (MAP-Elites и Go-Explore), одна эволюционная стратегия Islands, а также две дивергентные стратегии, Curiosity и Omni. Их оценивали по трём осям: Quality, Diversity и Novelty. Эксперименты проводились в трёх доменах, LLM Pretraining, On-Policy RL и Model Unlearning. Всего исследователи выполнили 3,222 оценённых запуска.
Полученные результаты показывают, что полностью новые идеи появляются редко. В проведённых экспериментах ни одна идея не получила оценку "Original". Лишь небольшое число работ отметили как имеющие "Minor Similarity" к предыдущим исследованиям. При этом такие идеи всё равно не приближаются к лучшим показателям известных рецептов. Как сообщает arXiv cs.AI (Artificial Intelligence), среди всех шести стратегий и трёх исследовательских доменов только одна подобная идея попала в топ‑10 результатов.
Ключевые факты
В работе представлен фреймворк Heuresis, который разбивает исследовательский процесс на набор компонуемых примитивов для открытого научного поиска в машинном обучении.
Авторы реализовали 6 стратегий поиска: greedy baseline, MAP-Elites, Go-Explore, Islands, Curiosity и Omni.
Оценка проводилась по трем осям, Quality, Diversity и Novelty, в трех доменах: LLM Pretraining, On-Policy RL и Model Unlearning; всего выполнено 3,222 оцененных запуска.
Среди всех 3,222 запусков ни одна идея не получила оценку «Original», лишь несколько получили «Minor Similarity», и только одна такая идея попала в топ-10 результатов.