Архитектура памяти AI-агентов стала ключевым ограничением для клиентского саппорта
Многие AI-агенты для поддержки клиентов до сих пор работают с единой «памятью»: весь накопленный контекст просто добавляется в промпт и передаётся модели. Как пишет Towards AI, в демонстрациях такой подход выглядит удобно, но в реальных системах быстро возникают проблемы с актуальностью данных, приватностью и удалением устаревшей информации.
В материале описан другой подход. Память агента предлагают разделять на несколько независимых типов, у каждого свои правила хранения и доступа. Это может быть история текущего диалога, профиль пользователя, пользовательские предпочтения, база знаний и данные, которые агент получает через внешние инструменты в реальном времени. Авторы подчёркивают: такие категории нужно хранить и обновлять отдельно, а не смешивать в один общий контекст.
Отдельно рассматриваются сроки хранения данных. Историю обращения предлагают удалять после закрытия тикета. Предпочтения, например язык общения, можно хранить до тех пор, пока пользователь их не изменит. При этом «живые» данные, такие как статус заказа или местоположение доставки, вообще не должны сохраняться в памяти агента. По данным материала, структурированное хранение записей с типами и политиками retention упрощает аудит, контроль приватности и удаление данных.
Ключевые факты
Материал описывает пять типов памяти в системах клиентской поддержки: история диалога, профиль пользователя, предпочтения, база знаний и данные из внешних инструментов
База знаний предлагается получать через retrieval-augmented generation, а не хранить в рабочем контексте агента
История текущей сессии должна удаляться после завершения обращения или тикета
Данные вроде статуса заказа, баланса аккаунта и местоположения доставки рекомендуется получать в момент запроса, а не сохранять в памяти агента