Microsoft анонсировала предварительную версию RDMA over USB4 для Windows: технология позволит разделить одну ИИ-модель между двумя или несколькими компьютерами и задействовать их память и графические процессоры. Специальные серверные сетевые карты и коммутатор для этого не понадобятся.
RDMA, или прямой удалённый доступ к памяти, передаёт данные между компьютерами в обход большей части обычного сетевого стека. Это уменьшает задержку и нагрузку на центральный процессор. Однако память машин не станет единым ресурсом для любых программ: модель должен разделить совместимый фреймворк через системный интерфейс NetworkDirect.
В замерах Microsoft задержка при передаче небольших сообщений между двумя ПК составила 28–50 микросекунд — примерно в четыре раза меньше, чем у Ethernet с протоколом UDP поверх того же соединения USB4. Результат относится только к обмену данными и не означает, что генерация текста ускорится в четыре раза.
Читайте также
Для превью нужны компьютеры с Windows 11 и портами USB4; подойти могут и совместимые порты Thunderbolt 4 или 5. Microsoft рекомендует соединения со скоростью от 40 Гбит/с и прямую связь между каждой парой машин. Компания проверила кластеры до трёх ПК на AMD Ryzen AI Max и до четырёх ПК на Intel Core Ultra Series 3, но это не полный список совместимого оборудования.
Microsoft уже открыла код провайдера NetworkDirect для USB4 и экспериментальной версии llama.cpp для локального запуска языковых моделей. Обычные сборки llama.cpp этих изменений не содержат.
В одной из демонстрационных конфигураций три мини-ПК с AMD Ryzen AI Max и 128 ГБ объединённой памяти каждый запускали четырёхбитную версию Qwen3 на 235 млрд параметров примерно со скоростью 18,5 токена в секунду. Повторить тест пока нельзя без специальной сборки Windows: Microsoft только готовит её для экспериментального канала Windows Insider. Функция будет отключена по умолчанию, а на этапе превью потребует тестовой подписи драйверов и временного изменения настроек безопасности; срок появления в стабильной Windows не объявлен.
