En cualquier caso, Google Cloud añade soporte nativo de Ray para PyTorch en TPUs
Anyscale y Google Cloud dijeron el 20 de octubre de 2026 que Ray ahora tiene soporte nativo para cargas de trabajo de PyTorch en las TPUs de Google, extendiendo la pila PARK a entrenamiento e inferencia basados en TPUs en Google Kubernetes Engine. Las empresas afirmaron que la integración se basa en el proyecto TorchTPU de Google y KubeRay en GKE, y está diseñada para ofrecer a los usuarios de PyTorch un modelo de un solo dispositivo por trabajador en TPUs en la nube.
Evidencia y contexto
En el anuncio, Anyscale indicó que los equipos de plataforma y ML que funcionan en GKE pueden programar, escalar y operar cargas de trabajo distribuidas de entrenamiento PyTorch, inferencia vLLM y aprendizaje por refuerzo entre GPUs y TPUs en un único plano de control Kubernetes. La empresa indicó que los trabajadores de Ray en TPUs ahora asignan uno trabajador a uno chip TPU, usando resources={"TPU": 1} y aislamiento de dispositivos a TPU_VISIBLE_CHIPStravés de , mientras que el código de PyTorch de cuda a tpu y el backend distribuido de nccl a tpu_dist.
La publicación también decía que la API SlicePlacementGroup de Ray se utiliza para agrupar actores en la misma sección TPU, y que TorchTrainer de Ray Train puede orquestar cargas de trabajo paralelas de datos distribuidos, Fully Sharded Data Parallel v2 y DTensor en slices de TPU Cloud de host único y multihost. Los ejemplos en la publicación especifican una configuración 16-worker en una sección V6E TPU- 4x4, con use_tpu=True, resources_per_worker={"TPU": 1} y la configuración automática de variables de entorno distribuidas de PyTorch.
Para inferir, Anyscale dijo que vLLM-TorchTPU registra TorchTPU como un plugin de plataforma vLLM, permitiendo que los extremos compatibles con OpenAI se ejecuten en cortes TPU a través de Ray Serve LLM. La configuración de ejemplo en la publicación utiliza una topología TPU-V6E 4x4 y especifica tensor_parallel_size=16, enable_expert_parallel=True y max_model_len=8192.
Lo que está verificado y lo que sigue siendo limitado
El anuncio es coherente con la reciente guía de Google Cloud para TPU y sigue a publicaciones de Google Developers fechadas el 20 y 2026-07-24 de julio sobre ejecutar Ray en TPUs. El material de fondo verificado proporcionado con esta solicitud también señala que Ray Train orquesta la formación distribuida entre máquinas, pero es distinto del entorno de ejecución del framework que ejecuta operaciones tensoriales.
Al mismo tiempo, el fondo proporcionado indica que el backend inspeccionado de Ray 2.59.0 PyTorch recomienda exactamente uno dispositivo TPU por trabajador y genera explícitamente un error para el entrenamiento entre múltiples segmentos TPU. Eso significa que el artículo debería distinguir entre entrenamiento multi-host dentro de una sola porción TPU, que se describe en el material original, y entrenamiento multi-slice, que no está verificado aquí para Ray 2.59.0. El material proporcionado también dice que una publicación de Google del 24 de julio describe la escalada multi-slice para JaxTrainer, pero eso no debe generalizarse a PyTorch.
El material fuente no proporciona precios, datos de mercado, fechas de resultados ni posicionamiento de inversores. Tampoco proporciona una fecha verificada del siguiente catalizador posterior al anuncio de 20 octubre de 2026 .