Пять архитектур RAG и задачи, для которых они подходят в продакшене

RAG‑подходы к работе с внешними знаниями это не одна универсальная схема, а целое семейство архитектур. Каждая из них рассчитана на свой тип задач. В материале из серии LangGraph Mental Model разбираются разные варианты и объясняется, как выбрать подходящий паттерн при создании систем на LangGraph и LlamaIndex. Как сообщает Towards AI, ошибка на этапе выбора архитектуры может обернуться не только падением производительности. В худшем случае система начинает уверенно выдавать масштабируемо неверные ответы.

Задача любой RAG‑системы проста по формулировке: дать языковой модели доступ к данным, на которых она не обучалась, прямо в момент запроса. У обучающих датасетов есть временная граница, а сама модель ничего не знает о внутренних документах компании, спецификациях продуктов или текстах, появившихся после её «заморозки». Дообучение на таких данных обходится дорого и плохо решает проблему постоянных обновлений. Поэтому в RAG используется другой принцип. Нужные фрагменты извлекаются во время запроса и добавляются в prompt как контекст, на который модель может опереться при формировании ответа.

Первая архитектура, Naive RAG, обычно рассматривается как базовый продакшен‑паттерн. Он часто применяется во внутренних policy‑ботах, FAQ‑ассистентах, системах поиска по документации и инструментах для онбординга. Конвейер включает пять последовательных этапов. Стадии 1–4 выполняются на этапе indexing time и запускаются один раз. Пятая стадия происходит уже при каждом пользовательском вопросе, то есть на этапе query time.

Главное различие между этими этапами связано со стоимостью операций. Векторные embedding для документов создаются заранее и оплачиваются один раз. Когда приходит пользовательский запрос, системе обычно требуется только один similarity search и один вызов LLM. В этой схеме вопрос пользователя и фрагменты документов оказываются в одном векторном пространстве. Система возвращает те части текста, чьи векторы находятся ближе всего к вектору запроса. Предполагается, что семантическая близость совпадает со смысловой релевантностью. Такое предположение хорошо работает, когда корпус документов чистый и преимущественно фактический.