Клиенты индийских ИТ-компаний пересматривают использование AI-моделей из-за роста расходов на токены

Корпоративные заказчики индийских ИТ-компаний начали пересматривать подход к использованию AI-моделей из-за растущих затрат на токены. Рутинные задачи все чаще переводят на более компактные модели, а крупные оставляют для сложных сценариев.

Как сообщает LiveMint, об этой тенденции во время последних отчетных звонков рассказали Tata Consultancy Services, HCL Technologies и Wipro. По данным издания, клиенты этих компаний пытаются снизить счета за использование AI по мере того, как технологии все глубже внедряются в корпоративные процессы.

Токены представляют собой базовые единицы данных, которые AI-сервисы вроде ChatGPT от OpenAI и Claude от Anthropic используют для обработки языка. Чем активнее используется модель, тем выше расход токенов и итоговые затраты. Глава HFS Research Фил Фершт отметил, что удельная стоимость вычислений снижается, но общее потребление AI растет настолько быстро, что корпоративные расходы продолжают увеличиваться.