Vercel добавила правила маршрутизации для AI Gateway

Vercel AI Gateway получил поддержку routing rules, правил маршрутизации для централизованного управления доступом к моделям и перенаправлением запросов. Как пишет Vercel (Changelog / News, incl. AI SDK), правила работают на уровне gateway, а не в коде приложения.

Сейчас сервис поддерживает два типа правил. Rewrite перенаправляет запросы с одной модели на другую. Это может пригодиться при недоступности модели, во время миграции с устаревшего варианта, для стандартизации на одной модели или при переходе с более дорогой модели на более дешёвую. Правило Deny полностью блокирует обращения к выбранной модели и возвращает ошибку 403.

Правила применяются ко всем запросам, отправленным через учётные данные AI Gateway команды. Управлять ими можно через Vercel CLI. В компании отдельно уточнили, что маршрутизация меняет только модель, которая обслуживает запрос. Остальные параметры сохраняются, включая BYOK, model fallbacks, sorting, only filter, provider options, Zero Data Retention и provider allowlist. Функция доступна в статусе beta.