Intel описала требования к инфраструктуре для agentic AI в корпоративной среде

Intel представила результаты серии экспериментов с нагрузками agentic AI и сформулировала несколько принципов для построения корпоративной инфраструктуры под ИИ-агентов. В компании описывают agentic AI как систему, в которой программные агенты выполняют бизнес-задачи сквозным образом, получая доступ к данным, инструментам, рабочим процессам и корпоративным системам. По данным Intel, здесь важны не только вычисления для инференса, но и управление памятью, наблюдаемость, стабильный доступ к данным, масштабирование и контроль использования инструментов.

Как пишет MIT Technology Review, Intel провела тысячи нагрузочных тестов и пришла к выводу, что большинство существующих методов оценки agentic AI плохо измеряют производительность всей системы целиком. В компании предлагают оценивать инфраструктуру по шести метрикам: доле успешного выполнения задач, стоимости задачи, времени выполнения, пропускной способности, плотности агентов на vCPU и задержке.

Для исследований Intel расширила open source-набор Terminal-Bench, добавив профилирование, телеметрию и механизм повторного воспроизведения ответов LLM. Это помогло отделить производительность самих агентов от вариативности ответов модели. В тестах использовались задачи компиляции, тестирования, операций с базами данных, логики, трассировки лучей, сжатия, линейной алгебры, перекодирования видео и обучения моделей машинного обучения.

Среди практических рекомендаций Intel предлагает планировать емкость инфраструктуры по плотности агентов на vCPU, а не по абсолютному числу агентов. Кроме того, компания советует ориентироваться на задержку выполнения задач, а не только на среднюю загрузку CPU. Для систем с агентами Intel также рекомендует по умолчанию использовать горизонтальное масштабирование, а вертикальное оставлять для более тяжелых вычислительных нагрузок.