К содержанию
Новости

В Пекине прошёл митап SGLang × MUSA после интеграции backend MUSA в основной код SGLang

В Пекине прошёл митап SGLang × MUSA после интеграции backend MUSA в основной код SGLang
Фото: Pandaily

10 мая 2026 года в Пекине прошёл митап «SGLang × MUSA Meetup». Его провели Moore Threads вместе с сообществом SGLang. Встреча стала первой офлайн‑площадкой после того, как backend MUSA официально объединили с основной веткой SGLang. На событие приехали ключевые разработчики из сообществ SGLang, Triton, Mooncake и ряда других проектов. Всего собралось около 100 инженеров. Они обсуждали движки инференса больших моделей, компиляцию операторов, инженерную оптимизацию и совместное развитие экосистемы.

Интеграция MUSA в SGLang даёт нативную поддержку GPU. Разработчики, которые используют SGLang для инференса больших языковых и мультимодальных моделей, теперь могут напрямую работать с полнофункциональными GPU Moore Threads без дополнительных слоёв адаптации. По словам CTO Moore Threads Zhang Yubo, архитектура MUSA (Meta (деятельность Meta признана экстремистской и запрещена в РФ)-computing Unified System Architecture) изначально проектировалась как универсальная и унифицированная вычислительная платформа. Её задача, по его словам, встраиваться в существующую экосистему без лишней сложности для разработчиков.

Техническая программа затронула несколько направлений. Участники разобрали архитектуру разделения Prefill-Decode в SGLang с поддержкой моделей DeepSeek-V4. Отдельно говорили об оптимизации операторов Triton на платформах MUSA. Также обсуждалась система KV Cache Store проекта Mooncake, предназначенная для пуллинга гетерогенных хранилищ, и проект BIFROST, который занимается унифицированной компиляцией операторов для разных чипов.

Финалом митапа стала панельная дискуссия «SGLang + MUSA Ecosystem Co-building and Engineering Breakthroughs». Её модерировал вице‑президент по программному обеспечению Moore Threads Yang Shangshan. Пять технических экспертов обсудили дальнейшую дорожную карту нативной поддержки операторов и более глубокую интеграцию фреймворка инференса с вычислительной инфраструктурой Китая.

Ключевые факты

  • 10 мая 2026 года в Пекине прошёл митап «SGLang × MUSA Meetup», организованный Moore Threads и сообществом SGLang.

  • Мероприятие стало первой офлайн-встречей после официального слияния бэкенда MUSA с основной веткой SGLang.

  • Во встрече приняли участие почти 100 разработчиков, включая представителей сообществ SGLang, Triton и Mooncake.

  • После добавления нативной поддержки разработчики могут использовать GPU Moore Threads в задачах инференса больших языковых и мультимодальных моделей в SGLang без сторонних адаптационных слоев.