Архитектура мультиарендных AI‑систем с Amazon Bedrock AgentCore: модель общего пула с изоляцией клиентов
Построение мультиарендных AI‑приложений требует продуманной архитектуры. В системе должны быть механизмы изоляции данных клиентов, поддержка разных уровней сервиса, точный учет расходов и наблюдаемость для каждого арендатора. Если этого нет, появляются риски: возможны утечки данных, нестабильное качество обслуживания и непредсказуемые затраты. Как сообщает AWS Machine Learning Blog, решить такие задачи помогает набор архитектурных паттернов на базе Amazon Bedrock AgentCore. Они позволяют собирать production‑ready системы, рассчитанные на работу с несколькими арендаторами.
В основе предложенной архитектуры лежит иерархия из трех уровней: Tier, Tenant и User. Изоляция поддерживается на каждом из них. Она реализуется через документы в knowledge base, механизмы памяти, управление доступом к моделям и отслеживание расходов. Эта схема хорошо сочетается с привычной для SaaS стратегией разделения клиентов по сервисным уровням. Арендаторов группируют по тарифам или сценариям использования, при этом каждый Tier определяет доступные функции и ожидаемое качество обслуживания.
В качестве примера рассматривается AI‑ассистент для здравоохранения, который обслуживает несколько клиник и больниц. В системе предусмотрены два уровня сервиса. Basic Tier рассчитан на небольшие клиники и частные практики, его основная задача связана с поиском и извлечением документов; здесь используется модель Mistral Ministral 3 8B Instruct. Premium Tier предназначен для больниц и специализированных центров, где требуется более сложный клинический анализ. В этом случае применяется OpenAI GPT OSS 120B с расширенными возможностями рассуждения, а также инструмент web search tool, доступный только на этом уровне.
Инфраструктура построена по модели pool isolation model. Арендаторы используют общую инфраструктуру и вычислительные ресурсы, а изоляция достигается логическим разделением: через scoped identifiers, политики доступа и раздельное хранение данных. Такой подход помогает эффективнее использовать ресурсы и одновременно поддерживать разные уровни сервиса для клиентов.
Ключевые факты
В архитектуре решения используется иерархия из трёх уровней: Tier → Tenant → User с изоляцией на каждом уровне через knowledge base, memory, доступ к моделям и отслеживание затрат.
Пример реализует два уровня сервиса: Basic Tier для небольших клиник с задачами поиска документов и Premium Tier для больниц и специализированных центров с более сложным клиническим анализом.
В Basic Tier применяется модель Mistral Ministral 3 8B Instruct, а в Premium Tier, OpenAI GPT OSS 120B с расширенными возможностями рассуждения и доступом к инструменту web search.
Архитектура использует pool‑модель изоляции, при которой арендаторы разделяют общую инфраструктуру и вычислительные ресурсы, а изоляция обеспечивается логическим разделением, политиками доступа и партиционированием данных.