Data & Society прокомментировала планы Белого дома по тестированию frontier AI моделей

Администрация Трампа, отменившая правила надзора за AI эпохи Байдена в January 2025, заявила о планах тестировать frontier AI‑модели до их выпуска для широкой публики. В Data & Society напоминают: государственный надзор за AI‑моделями и индустрией в целом давно необходим, чтобы предотвращать уже задокументированный вред от таких систем. В организации добавляют, что для реальной защиты прав и безопасности американцев нужен экосистемный подход на всех этапах разработки и внедрения AI. Одной точки контроля в лабораторной среде, сосредоточенной на отдельных моделях, обозначенных как «frontier», для этого недостаточно.

В заявлении также упоминается Center for AI Standards and Innovation (CAISI), которому поручено тестировать модели до развертывания. В недавнем отчете Challenges to the Monitoring of Deployed AI Systems центр писал: «post-deployment monitoring, from incident monitoring to field studies, is a crucial practice for confident, wide-spread AI adoption». Эксперты давно говорят и о других мерах: аудит AI, проведение impact assessments для оценки более широких эффектов развернутых систем, базовые механизмы защиты данных и приватности. В ранних сообщениях о планах Белого дома этих пунктов не было.

Отдельные вопросы вызывает состав предполагаемой рабочей группы по надзору. По сообщениям, в нее могут войти только представители правительства и индустрии. Такой формат, как отмечается, может фактически закрепить сотрудничество с компаниями, которые и подлежат оценке. При этом за рамками процесса остаются independent researchers, civil society organizations, labor representatives, consumer advocates, state regulators и communities directly affected by AI systems. Интерес администрации к теме надзора за AI усиливается на фоне растущей общественной обеспокоенности влиянием технологии на jobs, education, the environment и другие сферы.