К содержанию
hegai.media
Новости

AWS ограничивает процессорные ресурсы для внутренних инженерных команд

Инфографика: 1:1 соотношение CPU и GPU
Графика: hegai.media

В мае Amazon Web Services попросила инженеров экономить процессорные ресурсы. Как сообщает iXBT, внутренним командам теперь приходится ждать серверы на базе CPU по несколько дней, хотя раньше их выделяли за несколько часов. Причина в дефиците вычислительных мощностей и распространении приложений с ИИ-агентами.

AWS постепенно отключает простаивающие виртуальные серверы, которые использовались для разработки программного обеспечения. Освободившиеся мощности компания передает внешним клиентам. В результате у внутренних команд остается меньше ресурсов, а приложения дольше ждут своей очереди.

По оценкам Elendil Labs, средние ИТ-затраты на одного клиента удвоились, поскольку задачи с ИИ-агентами требуют больше ресурсов CPU. В апреле генеральный директор Intel Чен Ливу оценивал соотношение использования CPU и GPU в сценариях вывода ИИ примерно как 1:4. К июлю финансовый директор Intel сообщил, что оно приблизилось к 1:1. Руководители AMD и Arm также заявили, что спрос на процессоры превзошел ожидания отрасли.

Ключевые факты

  • Срок выделения серверных мощностей для внутренних задач вырос с нескольких часов до нескольких дней.

  • AWS постепенно отключает простаивающие виртуальные серверы, ранее использовавшиеся для разработки программного обеспечения.

  • По утверждению Elendil Labs, средние ИТ-затраты на одного клиента удвоились.

  • Соотношение использования центральных и графических процессоров в сценариях вывода ИИ изменилось примерно с 1:4 в апреле почти до 1:1 к июлю.

Вопросы и ответы

Кого затронули ограничения AWS в первую очередь?

Внутренние инженерные команды: AWS отключает простаивающие виртуальные серверы для разработки ПО и передает высвободившиеся мощности внешним клиентам.

Как ограничения повлияли на сроки внутренних задач?

Выделение серверных мощностей на базе CPU теперь занимает несколько дней вместо нескольких часов.

Почему нагрузка на CPU растет так быстро?

ИИ-агенты требуют больше процессорных ресурсов: соотношение CPU и GPU при выводе ИИ изменилось примерно с 1:4 в апреле почти до 1:1 к июлю, а средние ИТ-затраты на одного клиента удвоились.

Контекст по теме