OpenAI API позволяет ограничить траты и отключать доступ при перерасходе

OpenAI API включает инструменты для контроля расходов и защиты от неконтролируемых трат, которые могут возникать из-за ошибок или зациклившихся ИИ-агентов. Как пишет Tproger, в разделе Limits можно задать месячный бюджет, включить жёсткое ограничение расходов, настроить email-уведомления и управлять автопополнением баланса.

Аккаунты OpenAI разделены на usage tiers. Уровень зависит от суммы уже оплаченных API-вызовов и влияет на месячный потолок расходов, а также на rate limits. Для Free действует лимит 100 $ в месяц, для Tier 5, до 200 тыс. $ в месяц. Опция Enforce hard limit отключает API после превышения бюджета, и запросы начинают возвращать ошибку 429.

В материале также разбираются ограничения по нагрузке. OpenAI регулирует число запросов и токенов в минуту и день для каждой модели. Если лимиты превышены, рекомендуется использовать экспоненциальный бэкофф и учитывать причины ошибок 429: это может быть rate limit, hard spend limit или ограничения по токенам. Для ИИ-агентов отдельно советуют добавлять circuit breaker, чтобы автоматически останавливать цикл при серии ошибок или исчерпании бюджета.