Законопроект SB-53 о прозрачности frontier‑моделей ИИ направлен губернатору Калифорнии
Законодательное собрание Калифорнии направило губернатору Gavin Newsom законопроект SB-53, «Transparency in Frontier Artificial Intelligence Act». Голосование прошло 17 сентября. Если документ подпишут, Калифорния может стать первым штатом США, который введёт регулирование catastrophic risk. При этом SB-53 считают более мягким продолжением прошлогоднего SB-1047, на который губернатор наложил вето.
После вето на SB-1047 Gavin Newsom созвал Joint California Policy Working Group on AI Frontier Models. В июньском отчёте группа выделила несколько ключевых направлений: прозрачность работы систем, отчётность об инцидентах и защиту информаторов. SB-53 должен закрепить эти рекомендации уже на уровне закона.
В тексте законопроекта catastrophic risk описан как предсказуемый существенный риск того, что разработка, хранение, использование или развёртывание foundation model приведёт к гибели или серьёзным травмам более чем 50 человек либо к имущественному ущербу свыше $1 billion в результате одного инцидента. Среди примеров приводятся ситуации, когда система может помочь в создании или распространении CBRN weapons, самостоятельно проводить cyberattack, murder, assault, extortion или theft, либо уклоняться от контроля разработчика или пользователя.
SB-53 обязывает разработчиков публиковать frontier AI framework: в нём должны быть пороги возможностей моделей, меры снижения рисков и внутренние практики управления. Документ требуется пересматривать каждый год, а изменения публиковать в течение 30 дней. Для каждой новой frontier model нужно выпускать transparency reports с техническими характеристиками и оценками catastrophic risk. Кроме того, оценки рисков внутреннего использования моделей должны передаваться в California’s Office of Emergency Services (OES) каждые 3 месяца, при этом искажать сведения о catastrophic risk и соблюдении собственного framework запрещено. Законопроект также предусматривает создание в OES горячей линии для сообщений о критических инцидентах. Разработчики обязаны уведомлять о них в течение 15 дней, либо в течение 24 часов, если есть непосредственная угроза смерти или серьёзных травм. В свою очередь OES должен ежегодно публиковать отчёт с анонимизированной и агрегированной информацией о таких инцидентах.
Ключевые факты
Законодательное собрание Калифорнии 17 сентября приняло законопроект SB-53 («Transparency in Frontier Artificial Intelligence Act») и направило его на подпись губернатору Gavin Newsom.
SB-53 определяет «catastrophic risk» как предсказуемый существенный риск, при котором инцидент с foundation model может привести к гибели или серьезным травмам более 50 человек либо к ущербу имуществу свыше $1 billion.
Законопроект требует от разработчиков frontier AI публиковать framework по управлению рисками, ежегодно пересматривать его и публиковать изменения в течение 30 дней.
Разработчики обязаны сообщать о критических инцидентах безопасности в течение 15 дней, а при непосредственной угрозе смерти или серьезных травм, в течение 24 часов; отчеты направляются в California Office of Emergency Services.