Исследование MMC: рост расходов на AI смещает компании к контролю токенов и мультимодельным системам

MMC опубликовала исследование о росте затрат на генеративный ИИ и агентные системы. Авторы утверждают, что одна компания за месяц случайно потратила 500 млн $ на токены из-за отсутствия лимитов для сотрудников при работе с Claude. По их данным, Uber и Service Now тоже израсходовали годовые AI-бюджеты уже в первые месяцы года.

Как сообщает Hacker News, среди основных причин роста расходов в исследовании называют переход крупных поставщиков AI-сервисов от фиксированных подписок к оплате по фактическому использованию, а также быстрое распространение агентных систем. В материале говорится, что multi-agent системы обычно потребляют примерно в 15 раз больше токенов, чем стандартные чат-интерфейсы. Agentic coding systems, по оценке авторов, расходуют более чем в 1000 раз больше.

Отдельно в отчёте упоминаются изменения в токенизации. По словам авторов, Opus 4.7 сохранил прежние ставки за токен, но при этом способен генерировать до 35% больше токенов из того же входного текста.

Авторы отчёта считают, что от 50% до 80% расходов на токены оказываются лишними. Среди причин они выделяют использование frontier-моделей для простых задач, повторную обработку одного и того же контекста и избыточный обмен данными между AI-агентами. Для снижения затрат MMC предлагает инвестировать в системы управления контекстом и памятью, использовать мультимодельные архитектуры, AI routers и gateways, а также async и batch inference для агентных нагрузок.

В отчёте также говорится, что около 60% стоимости agentic software engineering связано не с первичной генерацией кода, а с автоматизированной проверкой и доработкой результатов. Авторы рекомендуют учитывать не только стоимость токенов, но и затраты на человеческую проверку и переработку.