Глава Google DeepMind предложил создать в США орган для проверки передовых ИИ-моделей

Гендиректор Google DeepMind Демис Хассабис призвал США создать систему надзора за ИИ по модели FINRA, саморегулируемой организации финансовой индустрии, которая работает под контролем SEC. В эссе «A Framework for Frontier AI and the Dawning of a New Age», опубликованном в X, он написал, что риски, связанные с искусственным общим интеллектом, требуют «срочных действий». По оценке Хассабиса, такие системы могут появиться уже через несколько лет.

Предлагаемая структура должна работать как государственно-частное партнерство под федеральным надзором. Как сообщает Quartz, в ее совет могут войти независимые технические эксперты, представители open-source-сообщества и чиновники. Финансирование, как считает Хассабис, скорее всего возьмет на себя индустрия: для проверки крупных моделей понадобятся значительные вычислительные ресурсы и специалисты высокой квалификации.

На первом этапе лабораториям предложат добровольно отправлять frontier-модели на проверку не позднее чем за 30 дней до релиза. Если механизм окажется эффективным, соответствие требованиям в будущем может стать обязательным условием для запуска моделей для пользователей в США. Проверки должны охватывать киберугрозы, биологические риски, способность моделей к обману, попытки обхода защитных механизмов, а также наличие цифровых водяных знаков на изображениях, созданных ИИ.

Хассабис также упомянул ситуацию вокруг моделей Anthropic Mythos и Fable, назвав ее «сигналом к пробуждению» для Вашингтона. По его словам, администрации США нужна формализованная система управления вместо разовых решений по отдельным случаям. Ранее Хассабис и глава Anthropic Дарио Амодеи обсуждали идею системы регулирования ИИ под руководством США на закрытой встрече G7 во Франции, но тогда стороны не пришли к конкретным договоренностям.