Компании, которые размещают ИИ-модели на собственной инфраструктуре, могут дробить ограниченные мощности графических ускорителей между множеством решений. Т-Банк внедрил два метода, которые объединяют разные задачи в одной модели и сокращают вычислительные расходы.
Исследования о корпоративных запросах и обработке документов опубликованы 1 сентября 2026 года.
Одна модель обслуживает запросы более 200 приложений
За основу Т-Банк взял Qwen3-32B. После общего обучения исследователи создали три специализированные версии: для следования инструкциям, вызова внешних функций и типичных корпоративных задач. Затем их объединили в одну универсальную модель.
Читайте также
На неё перенесли запросы более 200 внутренних приложений. Модель обрабатывает половину трафика платформы — 116 млн запросов в месяц. По расчётам банка, стоимость обработки в 2,8–3,9 раза ниже, чем у Qwen3-235B, модели примерно в семь раз крупнее по общему числу параметров. В отдельных сервисах разница достигает 4–9 раз.
Во внутреннем тесте Arena модель получила 69,6 балла против 65,8 у Qwen3-235B. Результат по следованию инструкциям составил 0,85 против 0,83, по вызову функций — 0,79 против 0,77. Сравнения качества и стоимости основаны преимущественно на внутренних тестах и производственных данных Т-Банка. Ответы проверяли по заданным критериям или с помощью специально настроенных моделей-судей.
Второй метод снижает расходы на обработку документов
Для извлечения данных из документов разных типов банк дообучил визуально-языковую модель семейства Qwen. Для её дообучения достаточно одного ускорителя Nvidia H100.
Модель извлекает нужные поля по текстовому заданию. Система оценивает качество результата и передаёт сотруднику ответы, которые требуют подтверждения или исправления. По производственным замерам банка, такой подход сокращает затраты более чем на 80% относительно ручной работы и более чем на 50% по сравнению с лучшей из протестированных открытых моделей.