Ascend 910C использовали для полного post-training модели DeepSeek-V4-Pro на 1,6 трлн параметров
Shenzhen Hetao College вместе с Harbin Institute of Technology (Shenzhen), Shenzhen Big Data Research Institute и Huawei завершили full-parameter post-training модели DeepSeek-V4-Pro на 1,6 трлн параметров. Обучение проходило на кластере Ascend 910C. По словам участников проекта, это первый случай, когда чипы китайского производства позволили модели такого масштаба пройти весь пайплайн обучения.
DeepSeek-V4-Pro построена на архитектуре Mixture-of-Experts (MoE). Во время inference активируется только часть экспертных модулей, но в процессе обучения каждый эксперт должен тренироваться одновременно. Из-за этого между чипами возникает масштабный all-to-all обмен данными. Объём передаваемых данных при обучении MoE в десятки раз выше, чем у обычных dense‑моделей, поэтому особенно важны пропускная способность межсоединений и точная синхронизация.
Команда выделяет три инженерных решения. Первое связано с распределением и шардированием 1,6 трлн параметров между сотнями чипов Ascend 910C, при этом обмен данными синхронизирован так, чтобы не возникали взаимные блокировки и переполнение памяти. Второе решение касается балансировки нагрузки: использован алгоритм планирования, оптимизированный для MoE и устраняющий узкие места в межкарточной коммуникации. Третье направление, отказоустойчивость без простоев. Система выполнила более 1,500 последовательных шагов обучения без прерываний и без ошибок благодаря мониторингу всей цепочки и механизму автоматического восстановления.
По итогам проекта загрузка вычислений превысила 30 percent, а эффективность ключевых операторов обучения выросла на 14 percent. В обучении моделей триллионного масштаба показатель 30 percent считается высоким промышленным уровнем; даже при использовании top-tier overseas chips большинство команд выходит примерно на 40 percent. В проекте участвовали и студенты: 42 человека из Hetao College прошли весь цикл построения и эксплуатации производственного пайплайна большой модели.
Ключевые факты
Консорциум Shenzhen Hetao College, Harbin Institute of Technology (Shenzhen), Shenzhen Big Data Research Institute и Huawei завершил full-parameter post-training модели DeepSeek-V4-Pro с 1.6 трлн параметров на кластере Ascend 910C.
Это первый случай, когда китайские чипы обеспечили полный цикл обучения модели такого масштаба.
Система выполнила более 1 500 последовательных training steps без прерываний и ошибок благодаря системе мониторинга и автоматического восстановления.
Утилизация вычислений превысила 30%, а эффективность ключевых training‑операторов выросла на 14%.