К содержанию
hegai.media
Новости

Mend.io выпустила практическое руководство по защите AI-агентов, MCP-серверов и LLM-приложений

Инфографика: 12 пунктов чек-листа
Графика: hegai.media

Mend.io выпустила руководство Securing AI agents, MCP servers & LLM apps: A practical framework о защите AI-агентов, MCP-интеграций и приложений на базе LLM. Документ сосредоточен на трех задачах: выявлении критичных компонентов, ускоренном устранении рисков и защите AI-систем в продакшене. Как пишет MarkTechPost, в руководство включили семь готовых артефактов, среди них карта поверхности атак, чек-лист конфигураций и матрица приоритизации инцидентов.

Авторы обращают внимание, что классический подход AppSec строился на предположении о предсказуемом поведении приложений. В случае с agentic AI все зависит от модели, системного промпта, пользовательского ввода, контекста и доступных инструментов. В документе перечислены и новые типы рисков: prompt injection через данные, избыточные разрешения у агентов, использование устаревших моделей без обновлений, а также «отравленные» описания инструментов на MCP-серверах.

В руководстве представлена пятиуровневая карта поверхности атак: Interaction, Agent, Integration, Model и Code. Отдельно описаны методы поиска shadow agents, незарегистрированных MCP-серверов и встроенных AI-фреймворков. Для инвентаризации предлагается расширить AI-BOM девятью полями, включая уровень автономности агента, зависимости от моделей, области доступа учетных данных и расположение системных промптов.

Отдельный раздел посвящен приоритизации и runtime-защите. Авторы рекомендуют автоматизировать только те решения, для которых можно предоставить доказательства корректности. Высокорисковые сценарии и новые классы AI-поведения предлагается оставлять на ручную проверку. В блоке runtime-security рассматриваются guardrails, hardening системных промптов, enforcement политик и мониторинг поведения AI-систем.

Ключевые факты

  • Пятиуровневая карта поверхности атак включает Interaction, Agent, Integration, Model и Code

  • Artifact 2.2 содержит чек-лист из 12 пунктов по ошибкам конфигурации AI-агентов и MCP-серверов

  • Расширение AI-BOM добавляет девять полей для каждого агента или MCP-сервера, включая уровень автономности и зависимости от моделей

  • Среди методов обнаружения AI-компонентов названы сканирование репозиториев, мониторинг сетевого трафика, аудит service accounts и API-ключей

Вопросы и ответы

Что именно добавляется к инвентаризации AI-систем и зачем это операционно важно?

Mend.io предлагает расширить AI-BOM девятью полями для каждого AI-агента или MCP-сервера, включая уровень автономности, зависимости от моделей, области доступа учетных данных и расположение системных промптов. Это нужно, чтобы быстрее находить риски и понимать, какие компоненты имеют критичные привилегии или завязаны на конкретные модели.

Как в руководстве предлагают искать неучтённые AI-компоненты и shadow agents?

Для обнаружения AI-компонентов рекомендованы сканирование репозиториев, мониторинг сетевого трафика, аудит service accounts и API-ключей. Эти методы предназначены для поиска shadow agents, незарегистрированных MCP-серверов и встроенных AI-фреймворков.

Чем подход к безопасности AI отличается от обычного AppSec по версии Mend.io?

Руководство исходит из того, что agentic AI ведёт себя непредсказуемо, потому что зависит от модели, системного промпта, пользовательского ввода, контекста и доступных инструментов. Поэтому в документе отдельно разбираются риски prompt injection через данные, чрезмерные разрешения агентов, устаревшие модели и «отравленные» описания инструментов на MCP-серверах.

Контекст по теме