NVIDIA DSX OS Améliore l'Efficacité des Clusters GPU Kubernetes

NVIDIA a dévoilé une solution complète pour améliorer l'efficacité et la fiabilité des clusters GPU Kubernetes à travers sa plateforme DSX OS. Ce logiciel open-source, qui fait partie de la plateforme DSX AI Factory plus large de NVIDIA, intègre des outils pour configurer, certifier et surveiller l'infrastructure accélérée par GPU, abordant des défis clés dans les charges de travail d'IA distribuées.

Aborder les Inefficacités des Clusters GPU

Des GPU sous-performants peuvent entraver les travaux de formation distribuée, même lorsque des vérifications de santé de base indiquent une utilisation normale. NVIDIA souligne que de tels problèmes peuvent survenir tout au long du cycle de vie d'un cluster, de la configuration initiale aux opérations continues. Les métriques traditionnelles telles que l'utilisation échouent souvent à capturer les inefficacités, ce qui rend nécessaire des méthodes de validation plus robustes. DSX OS introduit une métrique de "goodput", mesurant le volume de travail réalisé avec succès, pour fournir une image plus claire des performances du cluster.

Composants Clés de DSX OS

La plateforme DSX OS comprend trois outils open-source, chacun abordant une phase spécifique du cycle de vie du cluster :

• Configurer : Le NVIDIA AI Cluster Runtime (AICR) établit une base reproductible pour l'infrastructure Kubernetes optimisée pour GPU. Il définit des recettes de configuration verrouillées par version pour des composants tels que le réseau, le stockage et les pilotes. Ces recettes sont transformées en artefacts de déploiement compatibles avec des outils existants tels que Helm et Argo CD.
• Certifier : Le NVIDIA Cluster Readiness Engine (NVCRE) valide la préparation du cluster pour les charges de travail de production. Il exécute des charges de travail d'IA et des diagnostics, y compris des tests de la NVIDIA Collective Communication Library (NCCL), pour identifier les nœuds défectueux et garantir la fiabilité des charges de travail.
• Exploiter : NVSentinel surveille la santé du cluster, gère la remédiation des pannes et coordonne la revalidation. Il peut automatiquement isoler ou marquer des nœuds non sains, vider les charges de travail et déclencher la revalidation avec NVCRE avant que les nœuds ne retournent en service.

Les trois outils sont sous licence Apache 2.0 et sont ouverts aux contributions externes.

Gestion du Cycle de Vie en Pratique

Le flux de travail DSX OS suit un cycle de vie structuré : configuration, certification, surveillance et recertification. Par exemple, AICR génère des recettes qui définissent des versions figées, des graphes de dépendance et des assertions de santé pour chaque composant. Ces recettes sont transformées en artefacts de déploiement, assurant la cohérence et permettant la détection des dérives. NVCRE certifie ensuite la préparation du cluster en exécutant des charges de travail d'IA distribuées, tandis que NVSentinel surveille et gère en continu la santé des nœuds pendant les opérations.

Implications Stratégiques

Le DSX OS de NVIDIA vise à réduire les inefficacités et les risques opérationnels dans l'infrastructure IA. En intégrant la configuration, la certification et la surveillance dans une plateforme unifiée, il aborde les lacunes de visibilité qui peuvent entraîner un gaspillage de ressources de calcul et des nœuds inactifs. Les outils sont conçus pour fonctionner avec des pipelines de déploiement existants, minimisant les perturbations pour les opérateurs.

Bien que NVIDIA n'ait pas fourni de benchmarks de performance spécifiques ou de réductions de taux de pannes à l'échelle de la flotte, l'accent mis par la plateforme sur la reproductibilité et la détection des pannes est en adéquation avec la demande croissante d'une infrastructure IA résiliente. La démonstration de DSX OS, publiée le 2026-11-05, souligne l'engagement de NVIDIA à faire progresser l'efficacité des usines IA à travers l'innovation open-source.