В AI Gateway появился новый провайдер: Azure теперь поддерживает модели DeepSeek V4 Pro и V4 Flash. Запросы к ним можно отправлять через Azure наряду с уже подключенными провайдерами, что добавляет еще один путь для failover.
Ничего менять в коде не нужно. Стандартная маршрутизация автоматически учитывает Azure, а если один из провайдеров недоступен, шлюз перенаправляет запросы к оставшимся в списке. При необходимости можно задать приоритет и использовать Azure в первую очередь, оставив другие провайдеры как резерв для deepseek/deepseek-v4-pro или deepseek/deepseek-v4-flash в AI SDK.
Если у вас уже есть учетные данные Azure, можно подключить собственный ключ: AI Gateway будет использовать его для запросов, которые проходят через Azure. Платформа дает единый API для вызова моделей, отслеживания usage и cost, а также настройки retries, failover и performance optimizations. В AI Gateway доступны built-in custom reporting, поддержка Zero Data Retention и budgets для API keys. Сервис повторяет pricing провайдера без наценки и не берет platform fee за inference, включая запросы с BYOK.
Ключевые факты
Azure добавлен как провайдер моделей DeepSeek V4 Pro и DeepSeek V4 Flash в AI Gateway.
Запросы к этим моделям могут автоматически маршрутизироваться через Azure вместе с другими провайдерами, а при сбое используется фолбэк на оставшиеся провайдеры без изменений кода.
AI Gateway поддерживает использование собственных ключей Azure (BYOK) для запросов, которые маршрутизируются к Azure.
AI Gateway предоставляет единый API для вызова моделей, отслеживания использования и стоимости, а также настройки ретраев, фейловера и других оптимизаций производительности.