В MIT разработали быстрый способ оценки энергопотребления AI-нагрузок

Исследователи из MIT и MIT-IBM Watson AI Lab предложили способ быстро оценивать энергопотребление при выполнении задач искусственного интеллекта в дата-центрах. По оценке Lawrence Berkeley National Laboratory, к 2028 году дата-центры могут потреблять до 12 percent всей электроэнергии в США. Поэтому вопрос энергоэффективности вычислений становится всё более практическим. Новый инструмент позволяет операторам заранее понять, сколько энергии потребуется для запуска конкретной AI-нагрузки на выбранном процессоре или AI accelerator chip.

Метод называется EnergAIzer. Он формирует оценку энергопотребления всего за несколько секунд, тогда как традиционное моделирование может занимать часы или даже дни. Подход опирается на повторяющиеся шаблоны в AI-нагрузках и на типичные оптимизации, которые разработчики применяют при подготовке программ для GPU, например распределяют задачи между параллельными ядрами и выстраивают более эффективное перемещение данных. На основе таких шаблонов строится облегчённая модель, которая и даёт быструю оценку энергопотребления.

Инструмент подходит для разных аппаратных конфигураций, в том числе для новых разработок, которые ещё не развернуты. Операторы дата-центров могут использовать такие расчёты при распределении ограниченных ресурсов между несколькими AI models и процессорами. Разработчикам алгоритмов и поставщикам моделей это тоже полезно: можно заранее прикинуть потенциальное энергопотребление модели ещё до её развёртывания. Работа представлена на IEEE International Symposium on Performance Analysis of Systems and Software.