Le CPU NVIDIA Vera établit de nouvelles normes pour les charges de travail des agents IA

Le CPU Vera de NVIDIA est devenu une solution révolutionnaire pour l'infrastructure IA, alliant un haut débit à une efficacité énergétique exceptionnelle. Conçu pour des charges de travail IA agentives, Vera permet aux entreprises de maximiser les performances tout en minimisant la consommation d'énergie, un facteur critique pour les usines IA limitées en énergie.

Performances et Efficacité des Références

Dans une comparaison de centres de données de 100 mégawatts, NVIDIA a rapporté que Vera fournissait 1.6 fois plus d'agents par watt que le CPU x86 le plus rapide et atteignait une vitesse d'agent deux fois supérieure à celle du CPU x86 le plus efficace en énergie. Ces résultats soulignent la capacité de Vera à supporter plus d'agents IA concurrents sans compromettre la vitesse ou l'efficacité.

Les premiers adoptants ont validé ces affirmations lors de tests de style production. Par exemple, Daytona a réussi à réaliser 1,000 environnements d'agents en ligne en seulement 10.8 secondes avec Vera, comparativement à 88.4 secondes sur les CPU x86. En outre, Daytona a enregistré 12.7 travaux complétés par seconde dans 2,000 environnements concurrents avec Vera, surpassant les alternatives x86. DeepInfra a rapporté des vitesses d'orchestration des agents jusqu'à 2.2 fois plus rapides par rapport aux processeurs x86 leaders, tandis que ClickHouse a observé une scalabilité presque linéaire sur les 176 cœurs de Vera, le plaçant en tête du classement matériel ClickBench.

Spécifications Techniques

Vera dispose de cœurs personnalisés Olympus 88, supportant 176 threads grâce au Multithreading Spatial de NVIDIA. Il inclut 2 Mo de cache L2 par cœur, 164 Mo de cache unifié L3, jusqu'à 1.5 To de mémoire LPDDR5X, et une bande passante mémoire allant jusqu'à 1.2 To/s. Le CPU fonctionne dans une plage de puissance de design thermique configurable de 250 à 450 watts, mettant l'accent sur une exécution soutenue par cœur sous des charges complètes de socket.

La deuxième génération de tissu de cohérence de NVIDIA et le sous-système LPDDR5X permettent une utilisation de plus de 90% de la bande passante mémoire de pointe, avec une consommation de mémoire inférieure à 30 watts—significativement inférieure aux configurations DDR5.

Adoption et Impact Réel

Plusieurs organisations ont déjà intégré Vera dans leurs opérations. Perplexity a réalisé des tâches de codage agentif jusqu'à 1.5 fois plus rapides par rapport aux CPU traditionnels et envisage de déployer Vera dans un prochain système de production. Modal a rapporté jusqu'à 2 fois le débit de sandbox par cœur comparé à du matériel x86 comparable, avec des gains de performance augmentant sous des charges lourdes. DuckLabs a observé des performances 1.5 fois supérieures à la performance de référence Intel Xeon 6 de TPC-H median SF1000.

Pour les opérateurs d'infrastructure, l'efficacité de Vera se traduit par une diminution des exigences matérielles. Daytona a estimé que le maintien de 1,000 travaux par seconde nécessiterait environ 15% moins de machines Vera que les machines EPYC 9755 et 38% moins que les machines EPYC 9575F pour la même charge de travail.

Implications Stratégiques

Alors que les usines IA continuent de se développer, la demande de CPU capables d'équilibrer vitesse, capacité et efficacité énergétique augmentera. Le CPU Vera de NVIDIA se positionne comme une solution polyvalente pour ces besoins en évolution, offrant une plateforme unifiée pour diverses charges de travail d'agents sans nécessité de configurations mixtes x86.