Dike предложил EU-командам AI-шлюз для журналирования и контроля запросов к LLM
Сервис Dike представил gateway-прокси для AI-продуктов, работающих в ЕС. Платформа встраивается между клиентом и OpenAI-совместимыми провайдерами моделей: запросы проходят через шлюз, где редактируются персональные данные, блокируются подозрительные обращения, а каждая операция сохраняется в журнале аудита с полной трассировкой. Как пишет Hacker News, сервис рассчитан на требования AI Act и автоматизирует сбор доказательной базы для проверок.
По словам разработчиков, система сохраняет prompts, retrieval и completions в виде hash-chained записей с криптографической проверкой целостности. В журнале также фиксируется информация о документах, которые модель использовала при ответе. Действия операторов, approvals, edits и overrides записываются как отдельные события. Если происходит инцидент, Dike открывает кейс, отслеживает 15-дневный срок отчетности и формирует черновик отчета для регулятора.
Шлюз работает без SDK и изменений в коде: достаточно заменить base URL существующего клиента. Dike заявляет поддержку любых OpenAI-compatible SDK и фреймворков, включая RAG-пайплайны и чат-боты. Хранилище размещено только в ЕС, срок хранения начинается с минимальных по закону 6 месяцев и может настраиваться. Компания отдельно отмечает fail-open архитектуру: если аудитное хранилище недоступно, запросы продолжают передаваться провайдеру модели.
Ключевые факты
Dike сохраняет prompts, retrieval и completions как hash-chained записи с криптографической проверкой изменений.
Для серьезных инцидентов сервис отслеживает 15-дневный срок отчетности и формирует черновик обращения регулятору.
Срок хранения данных начинается с минимальных по закону 6 месяцев, при этом хранение ограничено инфраструктурой в ЕС.
Шлюз написан на Rust, поддерживает streaming-ответы и продолжает передавать запросы даже при недоступности аудитного хранилища.