Introspection представила концепцию autoresearch для самоулучшающихся AI-агентов

Сооснователь и CEO Introspection Роланд Гаврилеску на AI Engineer World’s Fair рассказал о подходе autoresearch. Речь идет о системе «внешних циклов», где агенты помогают поддерживать и улучшать инфраструктуру через сигналы обратной связи, evals и участие людей. По словам Гаврилеску, цель в том, чтобы агенты могли брать на себя больше решений и работы без постоянного участия человека и без роста числа ошибок.

Ранее Гаврилеску работал в xAI над agent infrastructure и cloud agents. Там он познакомился со своим будущим сооснователем Julian Bright. Как сообщает Latent Space, после ухода из xAI команда решила сосредоточиться на отдельной компании, которая занимается инфраструктурой для развертывания самоулучшающихся систем и исследует подходы, лежащие в основе продуктов Cursor и Cognition.

В докладе «Autoresearch in the Wild» Introspection выделила три паттерна для таких систем. Первый связан с идеей о том, что «цикл становится продуктом»: фокус смещается с отдельных моделей и harnesses на механизмы обратной связи.

Второй паттерн, концепция agent recipe. Она объединяет evals, judges, signal processing и зафиксированную человеческую экспертизу в переносимый формат, который агенты со временем могут дорабатывать сами.

Третий касается оптимизации стоимости и качества. В компании считают, что следующий этап развития таких продуктов, сделать их быстрее, дешевле и лучше адаптировать под конкретную среду заказчика.