Юрист из University of Houston раскритиковал модель частного аудита безопасности ИИ
Профессор University of Houston Law Center Gabriel Weil раскритиковал модель регулирования frontier AI, при которой разработчики сами выбирают и оплачивают независимые организации для проверки безопасности своих систем. В статье, о которой пишет AI Frontiers, он утверждает, что такой подход создает конфликт интересов: аудиторы получают стимул смягчать требования, чтобы не терять клиентов.
Речь идет о схеме, которую сейчас обсуждают американские законодатели и исследователи. Государство в этой модели задает целевые стандарты безопасности, а лицензированные independent verification organizations (IVOs) проводят аудит компаний. Подобные механизмы упоминаются в FRONTIER Act, внесенном в Палату представителей США в июле, а также в законодательных инициативах Калифорнии, Вирджинии и Коннектикута.
Weil сравнивает эту ситуацию с работой кредитных рейтинговых агентств перед кризисом 2008 года, когда эмитенты могли выбирать наиболее лояльного оценщика. По его мнению, конкуренция между IVOs в таких условиях способна привести не к ужесточению стандартов, а наоборот, к их ослаблению. Он также критикует предложения, при которых прохождение проверки дает компаниям защиту от части судебных претензий. Как считает автор, это смещает мотивацию с реального снижения рисков на формальное соблюдение требований.
В качестве альтернативы Weil предлагает обязательное страхование ответственности. По его аргументации, страховые компании в такой системе будут напрямую заинтересованы в точной оценке рисков, поскольку речь идет уже об их собственном капитале, а не только об оплате аудита.
Ключевые факты
FRONTIER Act внесли в Палату представителей США в июле как продолжение обсуждавшегося ранее Great American AI Act
Законопроект California SB 813 предусматривал защиту от части судебной ответственности для компаний, прошедших проверку аккредитованной частной организации
Закон Коннектикута создает многолетний пилотный проект, в рамках которого ведомство по защите потребителей сможет одобрить до пяти IVOs
Идею «regulatory markets» продвигает Gillian Hadfield, а модель «private governance» развивает Dean Ball совместно с организацией Fathom
Вопросы и ответы
- Как именно должен работать аудит frontier AI в обсуждаемых законопроектах США?
Модель предполагает, что государство задает стандарты безопасности, а лицензированные independent verification organizations (IVOs) проводят проверки разработчиков ИИ. Такой подход уже фигурирует в FRONTIER Act, внесенном в Палату представителей США в июле, а также в инициативах Калифорнии, Вирджинии и Коннектикута.
- Почему критикуют схему, где компании сами выбирают аудиторов ИИ?
Gabriel Weil считает, что у аудиторов возникает стимул смягчать требования ради сохранения клиентов, поскольку разработчики сами их нанимают и оплачивают. Он сравнивает эту модель с работой кредитных рейтинговых агентств перед кризисом 2008 года, когда эмитенты выбирали наиболее лояльного оценщика.
- Что меняется для компаний в законопроектах с частным аудитом ИИ?
В California SB 813 компаниям, прошедшим проверку аккредитованной частной организации, предлагалась защита от части судебной ответственности. В Коннектикуте закон создает многолетний пилотный проект, по которому ведомство по защите потребителей сможет одобрить до пяти IVOs.
Контекст по теме
- Власти США рассматривают создание регулятора для проверки ведущих ИИ-моделей18 июля 2026 г.
- Доклады ООН, Stanford и OECD указали на концентрацию вычислительных мощностей и влияния в AI7 июля 2026 г.
- Bruce Schneier: компании должны нести ответственность за ошибки ИИ26 июня 2026 г.
- Стартап AIUC предлагает страхование рисков для поставщиков AI‑агентов19 июня 2026 г.