MIRI описал проект международного соглашения против преждевременного создания искусственного сверхинтеллекта

Команда Technical Governance Team из MIRI в November 2025 опубликовала пример международного соглашения, направленного на предотвращение преждевременного создания artificial superintelligence. Авторы рассматривают проблему координации между государствами: развитие ИИ даёт стратегические преимущества, но создание сверхчеловеческого ИИ на основе нынешних методов, по их оценке, с наибольшей вероятностью может привести к катастрофическим последствиям. Публикация представляет собой краткое изложение отчёта «An International Agreement to Prevent the Premature Creation of Artificial Superintelligence». Полная версия документа вместе с приложениями занимает более fifty pages.

Проект соглашения предполагает запрет для стран‑подписантов на разработку возможностей и технологий ИИ, которые могут привести к superintelligence (Article I). В документе предлагается ввести пороговые значения для крупных запусков обучения, именно такие проекты сегодня формируют frontier AI. Если эти пороги превышаются, запуск должен попадать под мониторинг или прямой запрет (Articles II и IV). Отдельно предлагается ограничить исследования в некоторых чувствительных областях: развитие алгоритмов и аппаратного обеспечения со временем может снизить порог, необходимый для обучения потенциально опасных систем (Article VIII).

Черновик оформлен как двустороннее соглашение между the U.S. и China, которые, как отмечают авторы, значительно опережают другие страны по возможностям ИИ. Предполагается, что позже к договорённости смогут присоединиться и другие государства. Полномочия по изменению соглашения и независимой проверке предлагается передать Executive Council, сначала и, возможно, в дальнейшем состоящему из the U.S. и China. Для технической координации создаётся Coalition Technical Body (CTB); эта структура должна обновлять ключевые пороги и стандарты, а также оценивать возможности новых моделей ИИ (Article III, Article XIII).

Документ также предлагает контролировать развитие ИИ через инфраструктуру обучения. Отмечается, что большинство AI chips проектируются NVIDIA и производятся TSMC на оборудовании ASML. Поэтому проект обязывает государства консолидировать и отслеживать крупные кластеры AI chips (Article V), контролировать цепочки поставок (Article VI) и проверять, как именно используется такое оборудование (Article VII). Кроме того, странам предлагается вводить внутренние меры для проверки ограничений исследований (Article IX); их координацию предполагается возложить на Coalition Technical Body (Article X).