В AI Gateway появились бюджеты для API‑ключей
Vercel добавила в AI Gateway возможность задавать бюджет для API‑ключей. Это ограничение помогает держать расходы под контролем: они легко растут в token‑интенсивных процессах, при использовании coding agents, в автономных сценариях с циклами или разветвлениями без наблюдения, а также в демо и прототипах, которые могут неожиданно получить большой трафик. Есть и другой фактор, эксперименты разработчиков, когда не всегда понятно, сколько стоят отдельные модели.
Если для ключа задан лимит, AI Gateway отклоняет дальнейшие запросы после превышения установленной суммы. Запросы снова начнут проходить, когда бюджет обновится или лимит увеличат. Ограничение распространяется на всех providers и models, которые вызываются через этот ключ, поэтому расходы можно контролировать из одной точки.
Настройка доступна в Vercel Dashboard на странице AI Gateway API Keys: при создании ключа нужно включить опцию Spend Quota, указать лимит в долларах и выбрать период обновления. Существующие ключи редактируются через меню... и пункт Edit Key. Бюджетный API‑ключ можно создать и программно через Vercel CLI, при этом указывается необязательный refresh period: daily, weekly, monthly или none. Каждый период сбрасывается в начале своего окна в UTC. Ключи, созданные программно, отображаются в командном представлении AI Gateway API Keys.
Ключевые факты
В AI Gateway можно установить денежный лимит расходов для API‑ключа; после превышения лимита дальнейшие запросы по этому ключу отклоняются до сброса бюджета или увеличения лимита.
Лимит применяется ко всем провайдерам и моделям AI Gateway, которые используются через соответствующий API‑ключ.
В Vercel Dashboard при создании ключа на странице AI Gateway API Keys можно включить опцию Spend Quota, задать лимит в долларах и выбрать период обновления.
При создании ключа через Vercel CLI можно задать период обновления бюджета: daily, weekly, monthly или none; каждый период сбрасывается в начале окна по UTC.