NVIDIA Vera CPU setzt neue Standards für KI-Agenten-Workloads

Die Vera-CPU von NVIDIA ist zu einer bahnbrechenden Lösung für die KI-Infrastruktur geworden, die hohen Durchsatz mit außergewöhnlicher Energieeffizienz kombiniert. Entwickelt für agentenbasierte KI-Workloads ermöglicht Vera Unternehmen, die Leistung zu maximieren und gleichzeitig den Stromverbrauch zu minimieren, was für stromlimitierte KI-Fabriken von entscheidender Bedeutung ist.

Leistungs- und Effizienzbenchmarks

In einem Vergleich von 100-Megawatt-Rechenzentren berichtete NVIDIA, dass Vera 1.6-mal mehr Agenten pro Watt liefert als die schnellste x86-CPU und die doppelte Geschwindigkeit der effizientesten x86-CPU erreicht. Diese Ergebnisse heben Veras Fähigkeit hervor, mehr gleichzeitige KI-Agenten zu unterstützen, ohne Geschwindigkeit oder Effizienz zu beeinträchtigen.

Frühzeitige Anwender haben diese Behauptungen in produktionsähnlichen Tests validiert. Beispielsweise erreichte Daytona 1,000 Agentensandkästen online in nur 10.8 Sekunden mit Vera, verglichen mit 88.4 Sekunden auf x86-CPUs. Darüber hinaus verzeichnete Daytona 12.7 abgeschlossene Aufträge pro Sekunde bei 2,000 gleichzeitigen Sandkästen mit Vera und übertraf damit die x86-Alternativen. DeepInfra berichtete von bis zu 2.2-mal schnelleren Agentenorchestrierungsgeschwindigkeiten im Vergleich zu führenden x86-Prozessoren, während ClickHouse eine nahezu lineare Skalierung über Veras 176 Kerne beobachtete, was es an die Spitze der ClickBench-Hardware-Leitungen setzte.

Technische Spezifikationen

Vera verfügt über 88 benutzerdefinierte Olympus-Kerne, die 176 Threads durch NVIDIA Spatial Multithreading unterstützen. Sie umfasst 2 MB L2 Cache pro Kern, 164 MB einheitlichen L3 Cache, bis zu 1.5 TB LPDDR5X Speicher und eine Speicherbandbreite von bis zu 1.2 TB/s. Die CPU arbeitet innerhalb eines konfigurierbaren thermischen Leistungsdesignbereichs von 250–450 Watt und betont die nachhaltige Ausführung pro Kern unter Volllast in vollem Sockelbetrieb.

Die zweite Generation des Kohärenzgewebes von NVIDIA und das LPDDR5X-Subsystem ermöglichen eine Nutzung von mehr als 90% des maximalen Speicherdurchsatzes, wobei der Speicher weniger als 30 Watt verbraucht—deutlich niedriger als DDR5-Konfigurationen.

Akzeptanz und Auswirkungen in der Praxis

Mehrere Organisationen haben Vera bereits in ihre Abläufe integriert. Perplexity erreichte 1.5-mal schnellere agentenbasierte Codierungsaufgaben im Vergleich zu herkömmlichen CPUs und plant die Bereitstellung von Vera in einem bevorstehenden Produktionssystem. Modal berichtete von bis zu 2-mal höherem Sandbox-Durchsatz pro Kern im Vergleich zu vergleichbarer x86-Hardware, wobei die Leistungssteigerungen bei hohen Arbeitslasten zunahmen. DuckLabs beobachtete 1.5-mal die mittlere TPC-H SF1000-Leistung eines Intel Xeon 6-Baseline.

Für Infrastrukturbetreiber bedeutet Veras Effizienz geringere Hardwareanforderungen. Daytona schätzte, dass das Halten von 1,000 Aufträgen pro Sekunde ungefähr 15% weniger Vera-Maschinen als EPYC 9755-Maschinen und 38% weniger als EPYC 9575F-Maschinen für dieselbe Arbeitslast erfordern würde.

Strategische Implikationen

Da KI-Fabriken weiterhin wachsen, wird die Nachfrage nach CPUs, die Geschwindigkeit, Kapazität und Energieeffizienz ausbalancieren können, steigen. Die NVIDIA Vera-CPU positioniert sich als vielseitige Lösung für diese sich entwickelnden Bedürfnisse und bietet eine einheitliche Plattform für vielfältige Agenten-Workloads, ohne dass gemischte x86-Konfigurationen erforderlich sind.