AWS показала реализацию HippoRAG на базе Amazon Bedrock и Neptune

AWS представила реализацию HippoRAG, RAG-фреймворка, вдохновлённого механизмами памяти человеческого мозга. Он предназначен для задач, в которых модели нужно связывать информацию из нескольких документов. Как пишет AWS Machine Learning Blog, решение построено на сервисах Amazon Bedrock, Amazon Neptune, Amazon Neptune Analytics и Amazon Titan Embeddings.

В компании отмечают, что стандартные подходы RAG обычно обрабатывают документы изолированно, поэтому хуже справляются с multi-hop reasoning, когда ответ требует объединения данных из разных источников. В HippoRAG для этого используется граф знаний, алгоритм Personalized PageRank для обхода графа и ранжирования релевантности, а также механизм single-step multi-hop retrieval, который позволяет обходиться без нескольких итераций поиска.

Архитектура включает Amazon Bedrock для работы LLM и извлечения триплетов графа знаний, Amazon Neptune Database для хранения графа, Amazon Neptune Analytics для запуска алгоритмов графовой аналитики и Amazon Titan Embeddings для создания векторных представлений текста. В качестве примера AWS показывает обработку данных HotpotQA: JSON-файлы преобразуются в структуру графа знаний, CSV-файлы загружаются в Amazon S3, затем данные импортируются в кластер Neptune.