Как сообщает Google Developers Blog, Ray 2.55 позволяет запускать распределённые нагрузки Python на ускорителях Google через привычные API задач и акторов Ray.
Для многоузловых TPU-срезов действует строгое требование: узлы, связанные через ICI, должны размещаться вместе. KubeRay Operator на GKE автоматически создаёт и маркирует нужную аппаратную конфигурацию. Затем Ray Core использует эти метки и примитив slice_placement_group(), чтобы атомарно резервировать целые срезы.
Запускать задачи можно через KubeRay, Ray Train или Ray Serve. Разработчику достаточно указать топологию оборудования, например «4x4», писать собственный код для управления размещением не потребуется.
Ключевые факты
KubeRay Operator на GKE автоматически создаёт и маркирует аппаратную конфигурацию многоузловых TPU-срезов.
Ray Core атомарно резервирует целые срезы с помощью примитива slice_placement_group().
Задачи можно запускать через KubeRay, Ray Train или Ray Serve.
Топологию оборудования можно объявить в формате «4x4» без собственного кода размещения.
Вопросы и ответы
- Что изменится для команды при запуске многоузловых TPU-нагрузок?
KubeRay Operator на GKE сам создаёт и маркирует аппаратную конфигурацию, а Ray Core атомарно резервирует целый TPU-срез через slice_placement_group(). Собственный код для размещения узлов не нужен.
- Какие способы запуска поддерживаются?
Распределённые Python-задачи можно запускать через KubeRay, Ray Train или Ray Serve с привычными API задач и акторов Ray.
- Как задаётся конфигурация TPU?
Топология оборудования указывается напрямую, например в формате «4x4»; связанные через ICI узлы размещаются вместе.
Контекст по теме
- Google Cloud встроила поддержку TPU в vLLM для масштабирования пайплайнов эмбеддингов26 августа 2026 г.
- Amazon SageMaker HyperPod добавил управляемую поддержку Ray на Amazon EKS24 августа 2026 г.
- Google представила открытые микробенчмарки для оценки производительности TPU18 августа 2026 г.
- Google представила Tunix для высокопроизводительного обучения LLM-агентов16 августа 2026 г.