Министр финансов США Скотт Бессент 10 ноября раскрыл новые детали диалога Вашингтона и Пекина о рисках искусственного интеллекта. Страны собираются создать прямой канал для предупреждений о серьёзных инцидентах, а также обмениваться подходами к проверке передовых моделей до их публичного выпуска.
Это не новая договорённость двух стран. МИД Китая сообщил о создании двустороннего диалога по ИИ и будущего канала связи ещё по итогам визита Си Цзиньпина в США 23–25 сентября. Новым стало описание тем, которые Вашингтон намерен обсуждать с Пекином.
По словам Бессента, стороны рассчитывают обмениваться методами оценки и тестирования передовых моделей перед выпуском. Ещё одна заявленная цель состоит в том, чтобы сохранить за человеком контроль над решениями таких систем. Следующий раунд обсуждений должен пройти во время встречи лидеров США и Китая в Шэньчжэне на полях саммита Азиатско-Тихоокеанского экономического сотрудничества 18–19 ноября.
Читайте также
Бессент не уточнил, какие происшествия будут считаться достаточно серьёзными для экстренного уведомления. Также не раскрыты сроки запуска канала, ответственные ведомства, порядок передачи информации и данные, которыми страны будут готовы делиться. Поэтому речь пока идёт о согласованном механизме и предстоящих переговорах, а не о уже работающей системе предупреждения.
Американская сторона называет предмет диалога «сверхинтеллектом», но Бессент не обозначил технических критериев для этой категории. Китайское официальное сообщение использует более широкую формулировку: обмен мнениями о рисках и преимуществах ИИ.
Договорённость не прекращает технологическую конкуренцию двух стран и не создаёт общих обязательных правил для разработчиков. Её значение в другом: две крупнейшие державы начинают рассматривать сбои передовых моделей как возможный международный риск, для которого нужен отдельный канал кризисной связи. Обсуждение тестирования до выпуска также показывает, что методы проверки наиболее мощных систем становятся предметом межгосударственных переговоров, а не только внутренним делом ИИ-компаний.
Практическое значение механизма будет зависеть от того, договорятся ли США и Китай о критериях серьёзного инцидента и приведёт ли диалог к сопоставимым требованиям к испытаниям моделей.
