После выхода AI-приложения на реальную аудиторию проблемы чаще связаны не с самой моделью, а с инфраструктурой вокруг неё: очередями, ретраями, задержками и retrieval-системами. Автор материала приводит пример, когда внутренний copilot предложил выполнить команду kubectl delete namespace production. Ошибка возникла не потому, что модель что-то выдумала. Она пересказала устаревший operational runbook, который всё ещё хранился в vector database.
Разработчик спросил о зависшем deployment, retrieval-система выбрала наиболее подходящий semantic match, после чего языковая модель оформила ответ в виде готового блока кода. Как пишет Towards AI, такие сбои обычно начинают проявляться, когда сервис получает первые тысячи реальных пользователей, а нагрузка перестаёт быть похожей на staging-среду.
Автор отмечает, что прототипы чаще всего рассчитаны на чистые prompts, низкую concurrency и успешные tool calls. В production всё выглядит иначе: появляются всплески latency, retry storms, устаревшие ingestion pipelines, а у команды нет нормальной наблюдаемости в моменты, когда система начинает молча сбоить.
Ключевые факты
Copilot предложил команду
kubectl delete namespace productionна основе годовалого operational runbookRetrieval-система выбрала наиболее релевантный semantic match для вопроса о зависшем deployment
Автор связывает проблемы production-среды с latency spikes, retry storms и stale ingestion pipelines
В материале отмечается отсутствие visibility при silent failure в AI-системах