Почему CPU остаётся ключевым элементом инфраструктуры agentic AI

Когда обсуждают инфраструктуру искусственного интеллекта, разговор обычно крутится вокруг ускорителей, размеров моделей и кластеров для обучения. При этом у крупных систем agentic AI есть ещё один важный элемент, который часто остаётся в тени, центральные процессоры. Как сообщает The Register, именно CPU всё чаще выполняют роль управляющей плоскости всей системы. Они координируют обмен данными между хранилищами, памятью и ускорителями, обеспечивают изоляцию рабочих нагрузок и отвечают за точное планирование задач в распределённой инфраструктуре.

Без эффективных CPU даже самые мощные ускорители не раскрывают свой потенциал полностью. На этом фоне архитектура Arm заметно усилила позиции в дата-центрах. Платформа Arm AGI CPU создана в сотрудничестве с Meta (деятельность Meta признана экстремистской и запрещена в РФ) и построена на Arm Neoverse V3. Она рассчитана на высокую плотность вычислений на уровне стойки и масштабирование производительности для дата-центров agentic AI. В решение также включены функции безопасности, например confidential computing, а сама платформа ориентирована на гибкость в гипермасштабных средах.

Крупные облачные провайдеры уже внедряют собственные процессоры на базе Arm. AWS, Google Cloud и Microsoft Azure представили несколько поколений таких чипов для своих платформ. Процессоры Google Axion, например, предназначены для широкого круга задач: от аналитики данных и микросервисов до AI inference. AWS Graviton, в свою очередь, позиционируются как более производительный и экономичный вариант для разных вычислительных нагрузок. Microsoft развивает схожий подход с процессорами Azure Cobalt на базе платформы Arm Neoverse. По данным компании, ранние внедрения показали улучшения производительности и общей эффективности инфраструктуры.

Архитектуры Arm используются и в системах NVIDIA. Линия CPU-дизайнов Arm Neoverse применяется в чипах Grace Hopper и Grace Blackwell, а также в системе Vera Rubin NVL72. Подобные примеры отражают более широкий архитектурный подход, который иногда называют «converged AI data center». В такой модели вычисления, ускорители, сеть, хранение и программное обеспечение проектируются как единая система, а CPU координирует работу всего стека.