Новости

KaLM-Reranker-V1: архитектура reranking с разделением вычислений запроса и документа

Обновлено: 27 июня 2026 г.

Почему это важно

Подход с раздельным вычислением представлений запроса и документа может означать попытку сделать ранжирование в поисковых и RAG‑системах более масштабируемым без потери качества. Такой дизайн сигнализирует о движении отрасли к архитектурам, где дорогие вычисления для документов можно выполнять заранее, сохраняя гибкость при обработке запросов. Это укладывается в более широкий тренд оптимизации инференса при росте объёмов данных и требований к скорости поиска.

Исследователи представили модель KaLM-Reranker-V1, reranker для поисковых систем, рассчитанный на масштабируемые сценарии, где требуется точное переупорядочивание документов. Во многих существующих решениях запрос и текст документа кодируются вместе. Здесь подход другой: вычисления для запроса и passage разделены. Это упрощает развёртывание и делает систему гибче и эффективнее.

KaLM-Reranker-V1 построен на архитектуре encoder-decoder. Encoder заранее кодирует passage с помощью Matryoshka embedding pooling. Decoder, в свою очередь, обрабатывает system instruction, user instruction и намерение запроса. Связь между контекстом запроса и представлениями passage задаётся через cross-attention. Такой механизм позволяет сохранить выразительное моделирование релевантности, даже когда данные обрабатываются раздельно.

Модель доступна в трёх версиях: Nano, Small и Large. У них 0.27B, 1B и 4B activated parameters соответственно. Эксперименты на BEIR, MIRACL и LMEB показывают высокую эффективность reranking. На BEIR система достигает state-of-the-art и показывает результаты на уровне моделей серии Qwen3-Reranker. На MIRACL модель демонстрирует сильные показатели даже без интенсивного обучения на мультиязычных данных. В бенчмарке LMEB reranking‑подход тоже выглядит убедительно: даже версия Nano с 0.27B остаётся конкурентоспособной по сравнению с embedding‑моделями размером 7–12B, пишет r/LocalLLaMA (Reddit).

Ключевые факты

Представлена модель KaLM-Reranker-V1, reranker на архитектуре encoder-decoder, где документы предварительно кодируются энкодером с использованием Matryoshka embedding pooling, а релевантность вычисляется через cross-attention между запросом и представлением документа.
KaLM-Reranker-V1 выпущен в трёх версиях: Nano (0.27B активных параметров), Small (1B) и Large (4B).
На бенчмарке BEIR модель достигает state-of-the-art результатов на уровне моделей серии Qwen3-Reranker, а на MIRACL демонстрирует сильное качество ранжирования несмотря на отсутствие обширного обучения на мультиязычных данных.
На LMEB даже версия Nano с 0.27B параметров остаётся конкурентоспособной по сравнению с embedding‑моделями размером 7–12B.