NVIDIA и Dell представили инфраструктуру для agentic AI на базе Vera Rubin NVL72

На конференции Dell Technologies World глава Dell Майкл Делл заявил, что инвестиции в инфраструктуру ИИ могут достичь $3–4 трлн к 2030 году, а потребление токенов за тот же период способно вырасти на 3,400%. По его словам, около 5,000 компаний, включая Lilly, Samsung и Honeywell, уже запускают AI‑нагрузки на Dell AI Factories with NVIDIA. На сцене к нему присоединился основатель и CEO NVIDIA Дженсен Хуанг. Он отметил, что спрос на ИИ быстро растет, переход от пилотных проектов к масштабным развёртываниям ускоряют agentic AI и развитие inference.

По данным компаний, система на базе NVIDIA Vera Rubin NVL72 обеспечивает agentic AI inference при стоимости на токен в одну десятую по сравнению с NVIDIA Blackwell. Agent sandboxes на NVIDIA Vera работают на 50% быстрее, чем на традиционных CPU. Запросы к корпоративным данным выполняются до 3x быстрее при использовании Vera CPU. Среди представленных систем, Dell PowerEdge XE9812 на базе NVIDIA Vera Rubin NVL72. Также показаны серверы PowerEdge XE9880L, XE9885L и XE9882L, построенные на NVIDIA HGX Rubin NVL8. Они поддерживают до 144 GPUs на стойку, используют 100% direct liquid-cooled вычислительные узлы и обеспечивают производительность до 10x выше по сравнению с HGX B200.

Компании представили обновления сетевой и вычислительной инфраструктуры, линейку Dell PowerSwitch с NVIDIA Quantum-X800 InfiniBand, co-packaged optics и NVIDIA Spectrum-6 Ethernet, а также систему Dell PowerRack, которая объединяет вычисления, сеть и хранение данных. В эту инфраструктуру входят серверы Dell PowerEdge M9822 и R9822 с NVIDIA Vera CPU. По данным компании, Vera обеспечивает 1.2 TB/s пропускной способности памяти и выполняет agentic workloads на 50% быстрее, чем x86 processors. В платформе Dell AI Data Platform with NVIDIA используется движок Starburst. Он обеспечивает 3x более высокую пропускную способность запросов для крупномасштабной SQL‑аналитики на NVIDIA Vera CPU.