Copied


KubeRay positionne les charges de travail Ray à l’intérieur de Kubernetes

Alvin Lang   Oct 15, 2026 11:16 0 Min Read


Un explicateur d’AnyScale indique que KubeRay est la couche native Kubernetes pour exécuter Ray à grande échelle, relier les clusters Ray, les tâches batch et servir les charges de travail à l’infrastructure déjà exploitée par de nombreuses équipes. Le matériau présente KubeRay comme la méthode standard pour exécuter Ray sur Kubernetes et affirme qu’il soutient les offres Ray gérées par les principaux fournisseurs cloud.

Preuves et contexte

Selon le matériel source, le problème central est que Kubernetes comprend les Pods, Services et Jobs, mais pas un cluster Ray, un job Ray ou une application Ray Serve. Sans couche opérateur, les équipes doivent construire à la main la même plomberie pour les déploiements de tête et de travail, la soumission de tâches, l’auto-scaling et la récupération des pannes. KubeRay est présenté comme le pont : il transforme une spécification RayCluster en Pods et Services nécessaires, et rapporte l’état Ray à Kubernetes via des champs d’état et des Événements.

L’explicateur indique que KubeRay fournit trois ressources personnalisées principales. RayCluster est la base des clusters de longue durée. RayJob crée un RayCluster dédié pour une charge de travail batch unique et le démonte à la fin du travail. RayService gère les applications Ray Serve avec une haute disponibilité et des mises à jour sans interruption. La source décrit également RayCronJob pour les tâches Ray récurrentes.

Pour la mise à l’échelle et la résilience, le matériel indique que KubeRay ajoute un autoscaling conscient de Ray basé sur les tâches en attente, les acteurs et les groupes de placement, plutôt que de se fier uniquement à l’autoscaler Kubernetes Horizontal Pod. Il cite également la tolérance aux pannes du Global Control Service pour récupérer les métadonnées du cluster après une défaillance de nœud tête tout en maintenant les applications Ray Serve en fonctionnement. Concernant la planification, la source indique que KubeRay s’intègre avec des outils de quota Kubernetes et de planification en groupe, incluant Kueue, MultiKueue, l’API de Workload Kubernetes, Volcano, YuniKorn, des plugins planificateurs et NVIDIA KAI Scheduler.

Les fonctionnalités de sécurité et d’opérations listées dans la source incluent l’authentification des jetons Ray, Kubernetes RBAC, mTLS, la prise en charge de NetworkPolicy, l’intégration Prometheus et Grafana, ainsi qu’un serveur d’historique pour préserver les événements et journaux Ray dans le stockage objet après la suppression d’un cluster. Le matériel mentionne également kubectl ray et un serveur API KubeRay pour la gestion de type opérateur.

L’explication inclut un exemple résolu dans lequel un RayJob exécute une charge de travail de formation PyTorch Fashion MNIST sur Kubernetes. Dans la sortie de l’échantillon, le RayJob est affiché comme RÉUSSI, le travail de formation soumis rapportant une perte de 0.3702628721599095 et une précision de 0.8646. L’exemple est présenté comme une documentation plutôt que comme un événement de marché.

Le contexte plus large de Ray fourni avec la source indique que la dernière version officielle lors de la vérification était Ray 2.59.0, datée du 2026-10-02, après Ray 2.58.0 sur 2026-08-23. Ces notes de publication sont distinctes de l’explication de KubeRay, mais elles indiquent que le projet en amont a continué à ajouter des fonctionnalités de LLM, de stockage et de sécurité à peu près à la même période.

La source ne fournit pas les décomptes d’adoption, les chiffres clients, la part de marché ni les mesures comparatives de performance pour KubeRay. Elle ne précise pas non plus de date de produit à venir ni de catalyseur de lancement au-delà de la documentation elle-même.


Read More