AMD 10 ноября объявила о начале поставок серверных процессоров шестого поколения EPYC на архитектуре Zen 6. Одновременно компания представила три конфигурации платформы Helion, анонсированной в октябре, для инфраструктуры агентного ИИ — систем, в которых программы на основе моделей самостоятельно обращаются к данным, запускают инструменты и выполняют код.
Платформы на новых EPYC уже отгружают производители серверов, говорится в сообщении AMD. Облачные машины на этих процессорах Microsoft Azure и Oracle Cloud Infrastructure должны появиться позднее, но точные сроки компания не назвала.
Согласно TrendForce, процессоры Venice выпускаются с вычислительными чиплетами по двухнанометровому техпроцессу TSMC. Старшие модели получили до 256 ядер и 512 потоков, а высокочастотные версии работают на частоте до 5,3 ГГц.
Читайте также
AMD разделяет задачи агентных систем между несколькими типами процессоров. Высокочастотные модели предназначены для серверов с графическими ускорителями, где центральный процессор подготавливает данные и координирует выполнение запросов. Многоядерные версии рассчитаны в том числе на изолированные среды, в которых одновременно работают многочисленные ИИ-агенты. Графические ускорители при этом выполняют инференс — формирование ответа модели.
Для таких нагрузок предназначены новые конфигурации Helion. В наиболее плотных из них одна стойка может объединять до 73 728 процессорных потоков. Экосистема насчитывает более десяти сертифицированных конфигураций, а первые поставки ожидаются в ноябре, пишет TrendForce со ссылкой на отраслевые источники.
По собственным тестам AMD, серверы на EPYC 9996 обеспечивают примерно в 3,3 раза больше одновременно работающих агентов на ватт, чем системы с процессорами Nvidia Vera, и примерно в 2,5 раза больше, чем серверы с Intel Xeon 6980P. Это результаты производителя: независимых сопоставимых испытаний Venice, Vera и Xeon в открытых материалах пока нет.
Запуск важен как попытка AMD расширить конкуренцию с Nvidia и Intel за инфраструктуру корпоративных ИИ-агентов. Компания предлагает не только отдельный серверный процессор, но и готовые конфигурации стоек для дата-центров, где ограничены электропитание, охлаждение и физическое пространство.