Исследование Emory и IBM описывает подход Governed AI retrieval для работы систем ИИ с контекстом. По результатам экспериментов метод показывает 97% pass rate при проверке и при этом сокращает объём используемых токенов на 67%.
Как сообщает Hacker News, эти результаты представлены в материале о verifiable context governance. В нём исследователи разбирают, как управляемый механизм извлечения данных влияет на эффективность обработки контекста и на стоимость работы систем ИИ.
Авторы отмечают, что предложенный подход делает работу с контекстной информацией более контролируемой. Одновременно снижаются затраты на токены при выполнении задач, а высокий показатель прохождения проверок сохраняется.
Ключевые факты
Исследование о governed AI retrieval сообщает о показателе прохождения проверок на уровне 97%.
В работе указано сокращение использования токенов на 67% при применении governed AI retrieval.
Исследование связано с Emory и IBM.