К содержанию
hegai.media
Новости

Юрист из University of Houston раскритиковал модель частного аудита безопасности ИИ

Силуэт аудитора закрывает сертификационной печатью трещину в технической системе.
Иллюстрация создана hegai.media с помощью ИИ

Профессор University of Houston Law Center Gabriel Weil раскритиковал модель регулирования frontier AI, при которой разработчики сами выбирают и оплачивают независимые организации для проверки безопасности своих систем. В статье, о которой пишет AI Frontiers, он утверждает, что такой подход создает конфликт интересов: аудиторы получают стимул смягчать требования, чтобы не терять клиентов.

Речь идет о схеме, которую сейчас обсуждают американские законодатели и исследователи. Государство в этой модели задает целевые стандарты безопасности, а лицензированные independent verification organizations (IVOs) проводят аудит компаний. Подобные механизмы упоминаются в FRONTIER Act, внесенном в Палату представителей США в июле, а также в законодательных инициативах Калифорнии, Вирджинии и Коннектикута.

Weil сравнивает эту ситуацию с работой кредитных рейтинговых агентств перед кризисом 2008 года, когда эмитенты могли выбирать наиболее лояльного оценщика. По его мнению, конкуренция между IVOs в таких условиях способна привести не к ужесточению стандартов, а наоборот, к их ослаблению. Он также критикует предложения, при которых прохождение проверки дает компаниям защиту от части судебных претензий. Как считает автор, это смещает мотивацию с реального снижения рисков на формальное соблюдение требований.

В качестве альтернативы Weil предлагает обязательное страхование ответственности. По его аргументации, страховые компании в такой системе будут напрямую заинтересованы в точной оценке рисков, поскольку речь идет уже об их собственном капитале, а не только об оплате аудита.

Ключевые факты

  • FRONTIER Act внесли в Палату представителей США в июле как продолжение обсуждавшегося ранее Great American AI Act

  • Законопроект California SB 813 предусматривал защиту от части судебной ответственности для компаний, прошедших проверку аккредитованной частной организации

  • Закон Коннектикута создает многолетний пилотный проект, в рамках которого ведомство по защите потребителей сможет одобрить до пяти IVOs

  • Идею «regulatory markets» продвигает Gillian Hadfield, а модель «private governance» развивает Dean Ball совместно с организацией Fathom

Вопросы и ответы

Как именно должен работать аудит frontier AI в обсуждаемых законопроектах США?

Модель предполагает, что государство задает стандарты безопасности, а лицензированные independent verification organizations (IVOs) проводят проверки разработчиков ИИ. Такой подход уже фигурирует в FRONTIER Act, внесенном в Палату представителей США в июле, а также в инициативах Калифорнии, Вирджинии и Коннектикута.

Почему критикуют схему, где компании сами выбирают аудиторов ИИ?

Gabriel Weil считает, что у аудиторов возникает стимул смягчать требования ради сохранения клиентов, поскольку разработчики сами их нанимают и оплачивают. Он сравнивает эту модель с работой кредитных рейтинговых агентств перед кризисом 2008 года, когда эмитенты выбирали наиболее лояльного оценщика.

Что меняется для компаний в законопроектах с частным аудитом ИИ?

В California SB 813 компаниям, прошедшим проверку аккредитованной частной организации, предлагалась защита от части судебной ответственности. В Коннектикуте закон создает многолетний пилотный проект, по которому ведомство по защите потребителей сможет одобрить до пяти IVOs.

Контекст по теме