Маршрутизация запросов в AI API ставит под вопрос «идентичность» модели

Разработчики AI API все чаще перенаправляют запросы между разными моделями или версиями моделей без отдельного процесса повторного запроса. MarkTechPost приводит пример с Anthropic: при обращении к API с указанием «claude-fable-5» часть запросов из чувствительных категорий могла обрабатываться моделью «claude-opus-4-8». При этом в ответе API указывалась модель, которая фактически выполнила запрос.

Anthropic задокументировала этот механизм после возвращения Fable 5 1 июля. Переключение происходит на уровне API еще до генерации ответа, а пользователь видит поле с реальной моделью, обработавшей запрос. В статье подчеркивается, что это один из редких случаев, когда подмена модели явно отражается в ответе сервиса.

Автор упоминает и другие примеры маршрутизации. Cursor представила Router, классификатор, обученный более чем на 600 тыс. реальных запросов. Он выбирает модель в зависимости от контекста, сложности и домена задачи. По данным компании, три аккаунта раннего доступа сообщили об экономии 30–50% по сравнению с постоянным использованием Opus 4.8. OpenRouter, со своей стороны, предупреждает, что некоторые провайдеры используют квантованные веса по сниженной цене, а логи запросов могут не показывать такие изменения.

В статье говорится, что индустрия сталкивается сразу с несколькими типами расхождения между названием модели и фактическим исполнением. Среди них, замена модели через роутинг, использование квантованных версий и незаметное обновление весов у алиасов вроде «-latest». Автор связывает это не только с вопросами надежности, но также с контрактными и юридическими рисками для компаний, которые фиксируют в соглашениях конкретные model ID.