La CPU NVIDIA Vera establece nuevos estándares para las cargas de trabajo de agentes de IA

La CPU Vera de NVIDIA se ha convertido en una solución revolucionaria para la infraestructura de IA, combinando un alto rendimiento con una eficiencia energética excepcional. Diseñada para cargas de trabajo de IA agentiva, Vera permite a las empresas maximizar el rendimiento mientras minimizan el consumo de energía, un factor crítico para las fábricas de IA limitadas por la energía.

Rendimiento y Eficiencia en Benchmarks

En una comparación de centros de datos de 100 megavatios, NVIDIA informó que Vera entrega 1.6 veces más agentes por vatio que la CPU x86 más rápida y logra el doble de velocidad de agente que la CPU x86 más eficiente energéticamente. Estos resultados destacan la capacidad de Vera para soportar más agentes de IA concurrentes sin comprometer la velocidad o la eficiencia.

Los primeros adoptantes han validado estas afirmaciones en pruebas de estilo de producción. Por ejemplo, Daytona logró 1,000 entornos de agente en línea en solo 10.8 segundos usando Vera, en comparación con 88.4 segundos en CPUs x86. Además, Daytona registró 12.7 trabajos completados por segundo en 2,000 entornos concurrentes con Vera, superando a las alternativas x86. DeepInfra informó velocidades de orquestación de agentes hasta 2.2 veces más rápidas en comparación con los procesadores x86 líderes, mientras que ClickHouse observó una escalabilidad casi lineal en los 176 núcleos de Vera, colocándolo en la cima de la tabla de hardware de ClickBench.

Especificaciones Técnicas

Vera presenta núcleos Olympus personalizados 88, soportando 176 hilos a través de la Multihilo Espacial de NVIDIA. Incluye 2 MB de caché L2 por núcleo, 164 MB de caché L3 unificado, hasta 1.5 TB de memoria LPDDR5X, y un ancho de banda de memoria de hasta 1.2 TB/s. La CPU opera dentro de un rango de potencia de diseño térmico configurable de 250–450 vatios, enfatizando la ejecución sostenida por núcleo bajo cargas de socket completas.

La segunda generación de la tela de coherencia de NVIDIA y el subsistema LPDDR5X permiten más de 90% de utilización de ancho de banda de memoria pico, con el consumo de memoria inferior a 30 vatios, significativamente más bajo que las configuraciones DDR5.

Adopción e Impacto en el Mundo Real

Varias organizaciones ya han integrado Vera en sus operaciones. Perplexity logró tareas de codificación de agentes 1.5 veces más rápidas en comparación con CPUs tradicionales y planea implementar Vera en un próximo sistema de producción. Modal reportó hasta 2 veces de rendimiento en sandboxes por núcleo en comparación con hardware x86 comparable, con ganancias de rendimiento en aumento bajo cargas de trabajo pesadas. DuckLabs observó un rendimiento 1.5 veces superior al promedio TPC-H SF1000 de un Intel Xeon 6 de referencia.

Para los operadores de infraestructura, la eficiencia de Vera se traduce en requisitos de hardware reducidos. Daytona estimó que mantener 1,000 trabajos por segundo requeriría aproximadamente 15% menos máquinas Vera que las máquinas EPYC 9755 y 38% menos que las máquinas EPYC 9575F para la misma carga de trabajo.

Implicaciones Estratégicas

A medida que las fábricas de IA continúan escalando, la demanda de CPUs capaces de equilibrar velocidad, capacidad y eficiencia energética crecerá. La CPU Vera de NVIDIA se posiciona como una solución versátil para estas necesidades en evolución, ofreciendo una plataforma unificada para diversas cargas de trabajo de agentes sin necesidad de configuraciones mixtas x86.