После решения Верховного суда США по FTC в отрасли предлагают сместить акцент AI-регулирования на независимую верификацию

Глава Fathom Эндрю Фридман считает, что решение Верховного суда США по делу бывшего комиссара FTC Ребекки Слотер меняет подход к управлению рисками AI. Суд постановил: президент может увольнять руководителей независимых федеральных агентств, а защита от такого увольнения противоречит Конституции, если агентство выполняет исполнительные функции.

Как пишет Transformer (Transformer News), Фридман полагает, что попытки полностью изолировать AI-регулирование от политического влияния с самого начала были нежизнеспособны. Вместо создания независимых регуляторов он предлагает разделить техническую оценку AI-систем и политические решения о том, как использовать результаты такой оценки.

В качестве основы для этой модели Фридман называет Center for AI Standards and Innovation (CAISI). Центр работает внутри Commerce Department, оценивает возможности моделей, проверяет методики и разрабатывает стандарты измерения рисков. Кроме того, Фридман предлагает развивать сеть аккредитованных частных организаций по независимой верификации, independent verification organizations (IVOs). Они могли бы тестировать модели и передавать результаты в CAISI.

По мнению Фридмана, такие организации не должны принимать обязательные для рынка решения. Их задача заключается в измерении и оценке рисков, по аналогии с финансовыми аудиторами или лабораториями проверки безопасности продукции. Решения о допустимом уровне риска, как он считает, должны оставаться за государством.