Snowflake добавила журнал guardrail-проверок для Cortex и подтолкнула создание AI SOC на одном представлении

Snowflake представила представление CORTEX_AI_GUARDRAILS_USAGE_HISTORY, которое фиксирует срабатывания guardrails в Cortex Code, Cortex Agents и Snowflake Intelligence. Как пишет Towards AI, каждое использование инструмента сохраняется отдельной строкой: в записи есть данные о пользователе, времени, источнике, роли и самом факте срабатывания проверки. При этом журнал не содержит текстов prompt’ов, типа атаки, географических данных, атрибуции на уровне модели и метрик задержки ответа.

Автор материала использовал это представление для создания AI Security Operations Center на базе Streamlit. В систему добавили оценку риска, UEBA, сопоставление с MITRE ATLAS, автоматизацию compliance-проверок и мониторинг инцидентов. Основной проблемой оказался лимит Streamlit in Snowflake, не более 90 входящих запросов одновременно. Изначально архитектура работала с четырьмя параллельными запросами, но в production такой подход перестал справляться с нагрузкой. В итоге команда перешла на один параметризованный SELECT, а обработку данных перенесла на сторону клиента через pandas.

В материале отдельно разбирается интерпретация сигнала GUARDRAILS_SIGNAL. Поле возвращает только TRUE или FALSE и, согласно документации, указывает на обнаружение подозрительной активности, а не на подтвержденную атаку. Поэтому команда отказалась от автоматического отключения агентов при резком росте числа флагов. Такие события оставили для ручной проверки SOC-командой.