MIRI: ИИ‑компании могут превзойти по влиянию государства, в которых они работают

В опубликованной записке говорится, что компании, разрабатывающие искусственный интеллект, движутся к созданию возможностей, которые могут превзойти мощь Соединённых Штатов и других стран, где они базируются. По оценке авторов, это может произойти в ближайшие несколько лет и с высокой вероятностью, в течение следующего десятилетия. Крупные AI‑лаборатории прямо заявляют о цели создать artificial superintelligence, agentic AI, значительно превосходящий человеческий интеллект во всех областях.

Руководители ведущих компаний публично описывают такие планы. Sam Altman (CEO, OpenAI) говорил, что OpenAI уверена, что знает, как построить AGI, и «теперь нацелена на superintelligence… в истинном смысле слова». Dario Amodei (CEO, Anthropic) сравнил мощный AI с «страной, полной гениев в дата‑центре» и допустил его появление «уже к 2026». Demis Hassabis (CEO, Google DeepMind) оценивал вероятность AGI примерно в 50% в течение пяти–десяти лет. Mark Zuckerberg (CEO, Meta (деятельность Meta признана экстремистской и запрещена в РФ)) заявлял, что Meta сосредоточена на создании full general intelligence, вскоре после запуска инициативы superintelligence примерно на ~$14.3B. Бывший член совета OpenAI Helen Toner на слушаниях в Сенате заявила, что в Вашингтоне недооценивают серьёзность намерений компаний создать машины, превосходящие людей во всём, и не уверенность разработчиков в возможности контролировать такие системы.

В материале также приводятся оценки потенциального влияния таких технологий. Dario Amodei соглашался с тем, что руководители крупных AI‑компаний могут стать значимыми геополитическими игроками, а также предупреждал, что «рой из миллионов или миллиардов полностью автоматизированных вооружённых дронов», координируемых мощным AI, может стать непобедимой армией. Sam Altman называл compute «валютой будущего» и предполагал, что к концу этого десятилетия он может стать «самым ценным ресурсом в мире».

Отмечается, что AI уже превосходит людей в отдельных областях: модели OpenAI и Google DeepMind находили математические идеи, ускользавшие от лучших человеческих умов десятилетиями; Claude Mythos Preview от Anthropic за несколько недель превзошёл объём годовой работы профессионального поиска багов; системы выполняют задачи программирования за минуты вместо часов и начинают нанимать и управлять человеческими работниками. Ряд организаций и экспертов, включая RAND, Forethought, CAIS, а также Dean Ball и Ben Buchanan, предупреждают, что такие технологии могут представлять риски для национальной безопасности и глобальной стабильности.