TrustMem: фреймворк для более надёжной консолидации долгосрочной памяти у LLM‑агентов

Агенты на базе large language models (LLM) используют долгосрочную память, чтобы поддерживать длительные диалоги и давать персонализированные ответы, даже когда информация выходит за пределы контекстного окна. Обычно такая система обновляет внешнюю память через запись, редактирование и удаление данных. На практике это работает не идеально: обновления могут упустить важные детали, исказить уже сохранённые сведения или добавить неподтверждённый сгенерированный контент. В результате ошибки закрепляются в состоянии системы и начинают влиять на последующие рассуждения и генерацию.

Авторы работы предлагают фреймворк TrustMem, который должен повысить надёжность консолидации памяти. В его центре находится компонент Memory Transition Verifier. Он оценивает каждое обновление памяти по трём критериям: coverage, preservation и faithfulness. Проверка показывает, насколько полно отражена новая информация, сохранены ли прежние данные и соответствует ли обновление исходному содержанию.

Кроме того, TrustMem формирует пары предпочтений между альтернативными вариантами обновлений при одном и том же состоянии памяти. Это позволяет применять preference-guided reinforcement learning и напрямую оптимизировать поведение системы во время обновления памяти. Как сообщает arXiv cs.AI (Artificial Intelligence), эксперименты показали, что такой подход повышает полезность и надёжность памяти и достигает state-of-the-art результатов на бенчмарках MemoryAgentBench, HaluMem и Mem-alpha.