PAR описала архитектуру LLM‑аналитики с построчной изоляцией данных на AWS

Компания PAR Technology Corporation, которая разрабатывает технологии для ресторанной индустрии и работает более чем с 300 ресторанными бизнесами, рассказала о своем подходе к созданию аналитического агента на базе LLM. Система предназначена для работы с данными на естественном языке. Идея в том, чтобы бизнес‑пользователь мог задать вопрос на обычном английском и через несколько секунд получить ответ на основе данных. При этом доступ к информации разных компаний и пользователей должен оставаться строго разграниченным.

Как сообщает AWS Machine Learning Blog, для этого команда построила production‑систему LLM‑аналитики с многоарендной архитектурой и построчной изоляцией данных. В архитектуре предусмотрены три независимых уровня защиты. Первый уровень, криптографическая подпись запросов через AWS SigV4. Второй, семантическая проверка на Amazon Bedrock. Третий, программная изоляция данных с использованием Split-Plane SQL. Эти механизмы работают независимо друг от друга и должны снижать риск утечки данных между арендаторами даже в ситуации компрометации или манипуляции самой LLM.

В компании отмечают, что главная сложность подобных систем связана с корректным управлением доступом. Один и тот же вопрос может давать разные результаты в зависимости от прав пользователя. К примеру, владелец франшизы с двумя точками в Чикаго получит ответ о продажах за прошлую неделю на уровне 84 000 $. А бренд‑менеджер, который смотрит на сеть из 200 локаций, увидит уже 9,2 млн $.

По словам разработчиков, полагаться на саму LLM в вопросах соблюдения таких ограничений нельзя. Модели остаются вероятностными системами: они могут пропустить фильтр, неправильно понять запрос или сгенерировать некорректное условие. Поэтому в архитектуре контроль доступа и изоляция данных отделены от логики, по которой модель формирует SQL‑запросы.