Исследование KAIST связало ИИ-агентов с резким ростом энергопотребления
Учёные из Корейского института науки и технологий KAIST изучили энергопотребление ИИ-агентов и выяснили, что такие системы тратят заметно больше электричества, чем обычные чат-боты. Как сообщает Digital Trends, дело в том, что агенты не ограничиваются ответами на запросы. Они могут самостоятельно планировать действия, искать информацию в интернете, запускать программы и выполнять более сложные задачи.
Исследователи подсчитали: один запрос к ИИ-агенту в среднем требует в 136,5 раза больше электроэнергии, чем ответ стандартной нейросети. В KAIST также обратили внимание, что мощные GPU больше половины времени простаивают, пока ждут ответа от внешних сервисов, но при этом всё равно продолжают потреблять энергию.
Исследование представили на международной конференции по компьютерным архитектурам. Авторы открыли данные и методики работы, чтобы другие разработчики могли искать способы снизить энергопотребление ИИ-систем.
Ключевые факты
Один запрос к ИИ-агенту требует в среднем в 136,5 раза больше электричества, чем ответ обычной нейросети
GPU в таких системах более половины времени ожидают ответа от внешних сервисов, продолжая расходовать электроэнергию
Исследование представили на международной конференции по компьютерным архитектурам
KAIST открыл данные и методики исследования для других разработчиков