Kari Briski: как Nvidia готовится к росту агентных систем ИИ
Развитие агентных систем ИИ требует всё больше вычислительных ресурсов и работы с огромными потоками данных. Kari Briski, вице‑президент по продуктам генеративного ИИ в Nvidia, объясняет: такие системы выстраивают сложные цепочки взаимодействий. Агенты могут создавать субагентов, из этого возникают многоагентные схемы, и в процессе генерируется большое количество токенов, базовых единиц данных, с которыми работают модели. Задача её команды в том, чтобы технологический стек Nvidia справлялся с такой нагрузкой.
По мере роста генеративного ИИ Nvidia сохраняет доминирующее положение среди продавцов графических процессоров (GPUs), на которых запускаются модели. Во многом это связано с тем, что разработчики активно опираются на аппаратную и программную экосистему компании при создании, обучении и запуске моделей.
Важный элемент этой экосистемы, программная платформа CUDA (Compute Unified Device Architecture). Она позволяет разработчикам детально управлять тем, как чипы распределяют вычислительную работу моделей. При этом, как говорит Briski, дело не ограничивается одной CUDA. Компания также занимается оптимизациями на уровне самих чипов и предлагает reference architecture для агентов, схемы, которые показывают, как можно строить такие системы.
Ключевые факты
Kari Briski занимает должность вице‑президента по продуктам генеративного ИИ в Nvidia и руководит командой, отвечающей за эффективность обработки токенов в технологическом стеке компании.
По словам Kari Briski, системы агентного ИИ создают множество субагентов и генерируют большие объемы токенов, базовых единиц данных, которые модели обрабатывают и производят.
Nvidia остается доминирующим продавцом GPU, на которых запускаются модели ИИ.
Разработчики строят, обучают и запускают модели на аппаратно‑программном стеке Nvidia, включая CUDA, которая дает детальный контроль над тем, как чипы выполняют вычисления.