NVIDIA veröffentlicht die Run:KI-GPU-Orchestrierungsplattform als Open Source

NVIDIA kündigte am 2026-10-13 an, dass die komplette Run:KI-Plattform als Open-Source-Software veröffentlicht wird, wodurch produktionsfähige KI-Workload- und GPU-Orchestrierungsfunktionen für Kunden, Entwickler und Ökosystempartner ohne Bedarf an einem bezahlten Abonnement oder Unternehmenssupport verfügbar sind, so ein Beitrag von Tanya Lenz im NVIDIA Developer Blog.

Die Veröffentlichung erweitert die NVIDIA DSX KI Factory Platform, indem Run:KI als offene Grundlage für das größere Ökosystem etabliert wird. NVIDIA schloss die Übernahme von Run:KI am 2024-12-30 ab, wie TechCrunch damals berichtete.

Plattformfähigkeiten und Komponenten

Run:KI ist eine auf Kubernetes basierende Plattform, die KI Workload-Planung und GPU-Ressourcenzuweisung für interaktive Entwicklung, Modelltraining und Inferenz verwaltet. Laut der bis 2026-10-13 aktuellen NVIDIA-Dokumentation umfassen die Funktionen der Plattform GPU-Pooling und -Sharing, fraktionierte GPU-Zuteilung, Workload-Priorisierung, organisatorische Quoten, rollenbasierte Zugriffskontrolle und Nutzungsüberwachung. Dies sind beabsichtigte operative Fähigkeiten, keine Leistungsgarantien.

Die Veröffentlichung vom 13. Oktober enthält die integrierte Run:KI-Plattform und vier modulare Komponenten, die unabhängig übernommen werden können: KAI Scheduler, GPU Fractioning Operator, KAI Resource Management und Workload Map. NVIDIA veröffentlichte KAI Scheduler unter der Apache 2.0-Lizenz und stellte es der Cloud Native Computing Foundation als Sandbox-Projekt zur Verfügung, so die Ankündigung.

Der KAI Scheduler koordiniert Gang-Scheduling mit In-Memory-Simulation, fairer Anteilung und Quotenzuteilung, Topologiebewusstsein, GPU-Sharing über mehrere Methoden, darunter MIG und MPS, sowie Unterstützung für dynamische Ressourcenzuteilung. Der GPU Fractioning Operator ermöglicht CUDA- 13.4-natives GPU-Fractioning auf Kubernetes mit harter Speicherisolation, die durch den CUDA-Treiber erzwungen wird. KAI Resource Management bietet eine Organisationsschicht, die GPU-Ressourcen Projekten, Abteilungen und Teams mit definierten Kapazitätsanteilen und Knotenpools für heterogene Hardware zuweist. Workload Map definiert einen Vertrag zur Behandlung verschiedener Kubernetes-Workload-Typen – einschließlich PyTorchJob, RayCluster, JobSet und KServe InferenceService – als erstklassige Objekte während ihres gesamten Lebenszyklus.

Verfügbarkeit und Akzeptanz im Ökosystem

Der vollständige Open-Source-Quellcode der Run:KI-Plattform ist in der NVIDIA DSX KI Factory GitHub-Organisation verfügbar. Er wird außerdem als Community-Produkt auf NVIDIA NGC mit einem Helm-Diagramm zur Installation verteilt. Der Run:KI-Quellcode unterliegt den entsprechenden Open-Source-Lizenzen; das NGC-Community-Produkt erfordert die Annahme der NVIDIA Software License Agreement und der produktspezifischen Bedingungen für NVIDIA KI-Produkte. Für das Community-Produkt ist kein kostenpflichtiges Abonnement erforderlich, und NVIDIA-Unternehmensunterstützung ist laut Ankündigung nicht enthalten.

NVIDIA-unterstützte kommerzielle Angebote von Run:KI sind weiterhin als eigenständiges Produkt über NVIDIA Mission Control und NVIDIA KI Enterprise sowie auf ausgewählten Cloud-Marktplätzen verfügbar, wobei Verfügbarkeit, Lizenz und Supportbedingungen je nach Angebot variieren.

acht Ökosystempartner haben ihre Integration in Ankündigungen aus dem Beitrag vom 13. Oktober detailliert dargelegt. Crusoe integriert Run:KI mit Crusoe Managed Kubernetes. Mirantis erweitert k0rdent KI mit Run:KI für die lebenszyklusverwaltete Infrastrukturbereitstellung. Nebius bietet Run:KI als eins-Klick-Anwendung in Nebius KI Cloud an. OpenNebula Systems integriert Run:KI mit der OpenNebula KI Cloud Platform über OneKS. Rafay erweitert seine Integration und bietet Run:KI als vollständig verwalteten Service mit automatisierter Infrastruktur und Verwaltung der Kontrollebene bereit. Saturn Cloud integriert Run:KI, um Betreibern die Einführung von White-Label-KI Inferenzdiensten über seine Token Factory-Plattform zu erleichtern; Saturn Cloud kündigte diese Integration laut PR Newswire am 2026-09-17 an. Spectro Cloud integriert Run:KI in PaletteAI für Lebenszyklusautomatisierung. vCluster bietet Run:KI über vorvalidierte Bereitstellungsvorlagen mit tenant-per-tenant-Umgebungen.

Verwandte Open-Source-Projekte

Die Ankündigung beschrieb außerdem zwei ergänzende Open-Source-Projekte. Model Streamer liest gleichzeitig Modellgewichte aus und streamt sie direkt in den GPU-Speicher, um die Kaltstart-Latenz für Inferenz-Workloads zu reduzieren. Es ist upstream in vLLM und SGLang integriert, wird im AWS vLLM Deep Learning Container ausgeliefert und von Google Cloud und Microsoft Azure dokumentiert. Die Anbieter von Speicherplattformen WEKA, VAST Data und DDN haben unabhängig voneinander Benchmarks veröffentlicht; WEKA meldete, dass das Laden in den GPU-Speicher in 3.5 Sekunden erfolgte, etwa 40 Prozent schneller als lokales NVMe, während DDN für das 65.5 GB Qwen3-32B Modell über acht GPUs unter vier Sekunden berichtete. Dies sind vom Hersteller berichtete Zahlen für spezifische Konfigurationen, keine universellen Leistungsbehauptungen.

Grove stellt eine Kubernetes-API zur Orchestrierung von Multi-Komponenten-Workloads bereit, einschließlich agentischer Pipelines, disaggregierter Serving und Mix-of-Experten-Schulungen. Es bietet topologiebewusstes Autoscaling und hierarchisches Gang-Scheduling und verwaltet auf NVIDIA GB200 NVL72 ComputeDomain-Ressourcen automatisch. Grove ist ein modularer Teil von NVIDIA Dynamo, der unabhängig verwendet werden kann.

Kontext und Einschränkungen

Die Ankündigung 2026-10-13 markiert einen Wechsel von der früheren proprietären Distribution von Run:KI hin zu einem Open-Source-Modell im DSX KI Factory-Ökosystem. Plattformteams können den Code inspizieren, zur Entwicklung beitragen, den integrierten Stack bereitstellen oder einzelne Komponenten übernehmen. Die Community-Distribution beinhaltet keine Unternehmensunterstützung; Organisationen, die Supportberechtigungen benötigen, müssen die kommerziellen Angebote von NVIDIA nutzen.

NVIDIA erklärte, dass die gesamte Entwicklung von KAI-Schedulern im Community-Repository stattfindet und Verbesserungen über denselben Codebase fließen. Das Unternehmen unterstützt weiterhin die Projektverantwortlichen und erklärte, dass es mit dem breiteren Ökosystem zusammenarbeiten wird, um die Planung von KI-Arbeitslasten voranzutreiben.

Quelle: developer.nvidia.com.