Стартап AIUC предлагает страхование рисков для поставщиков AI‑агентов
Рост использования автономных AI-агентов приносит новые риски. Такие системы могут нарушать правила защиты данных и международные требования по борьбе со SPAM, а также становятся потенциальной целью для хакерских атак. До недавнего времени при этом не существовало общего стандарта, который позволял бы измерять такие риски и страховать их. Сейчас, когда компании начинают доверять агентам выполнение реальных рабочих задач, потребность в подобных механизмах становится заметно острее.
Rajiv Dattani запустил Artificial Intelligence Underwriting Company (AIUC). Компания начала страховать поставщиков AI-агентов от подобных угроз. Подход к оценке рисков разрабатывался вместе с консорциумом примерно из 150 специалистов по безопасности и управлению рисками из Fortune 1000. В работе участвовали chief information security officers и другие лидеры в области безопасности.
Созданный стандарт проверяет, насколько агент уязвим для таких проблем, как jailbreaks, hallucinations и утечки данных. В основе шесть категорий риска: data, security, safety, reliability (включая hallucinations), accountability и societal risk. Для каждой категории прописаны требования к техническим контролям и системам безопасности, которые должны применяться при разработке и эксплуатации AI-агентов.
Ключевые факты
Rajiv Dattani через компанию Artificial Intelligence Underwriting Company (AIUC) начал страховать поставщиков AI‑агентов от рисков, связанных с их работой.
AIUC разработала стандарт оценки рисков совместно с консорциумом примерно из 150 директоров по информационной безопасности, риск‑менеджеров и лидеров безопасности из Fortune 1000.
Стандарт включает шесть основных категорий риска: data, security, safety, reliability (включая hallucinations), accountability и societal risk.
Стандарт AIUC определяет требования к техническим контролям и системам безопасности для оценки уязвимости AI‑агентов к проблемам вроде jailbreaks, hallucinations и утечек данных.