CPU NVIDIA Vera Define Novos Padrões para Cargas de Trabalho de Agentes de IA
A CPU Vera da NVIDIA emergiu como uma solução inovadora para infraestrutura de IA, combinando alta taxa de transferência com excepcional eficiência energética. Projetada para cargas de trabalho de IA agentes, a Vera permite que as empresas maximizem o desempenho enquanto minimizam o consumo de energia, um fator crítico para fábricas de IA com recursos limitados de energia.
Referências de Desempenho e Eficiência
Em uma comparação de data center de 100 megawatts, a NVIDIA relatou que a Vera oferece 1.6 vezes mais agentes por watt do que a CPU x86 mais rápida e alcança o dobro da velocidade de agentes da GPU x86 mais eficiente em termos de energia. Esses resultados destacam a capacidade da Vera de suportar mais agentes de IA simultaneamente sem comprometer a velocidade ou eficiência.
Os primeiros adotantes validaram essas reivindicações em testes em estilo de produção. Por exemplo, a Daytona conseguiu alcançar 1,000 sandboxes de agentes online em apenas 10.8 segundos usando a Vera, em comparação com 88.4 segundos em CPUs x86. Além disso, a Daytona registrou 12.7 trabalhos concluídos por segundo em 2,000 sandboxes simultâneos com a Vera, superando as alternativas x86. A DeepInfra relatou velocidades de orquestração de agentes até 2.2 vezes mais rápidas em comparação com os principais processadores x86, enquanto a ClickHouse observou escalabilidade quase linear nos 176 núcleos da Vera, colocando-a no topo da tabela de hardware do ClickBench.
Especificações Técnicas
A Vera apresenta núcleos Olympicos personalizados 88, suportando 176 threads por meio do NVIDIA Spatial Multithreading. Inclui 2 MB de cache L2 por núcleo, 164 MB de cache unificado L3, até 1.5 TB de memória LPDDR5X e uma largura de banda de memória de até 1.2 TB/s. A CPU opera dentro de uma faixa de potência de projeto térmico configurável de 250 a 450 watts, enfatizando a execução contínua por núcleo sob cargas de soquete completas.
A segunda geração de tecido de coerência da NVIDIA e o subsistema LPDDR5X permitem mais de 90% de utilização de largura de banda de memória de pico, com a memória consumindo menos de 30 watts—significativamente menor do que as configurações DDR5.
Adoção e Impacto no Mundo Real
Várias organizações já integraram a Vera em suas operações. A Perplexity alcançou 1.5 vezes mais rápidas tarefas de codificação de agentes em comparação com CPUs tradicionais e planeja implantar a Vera em um sistema de produção em breve. A Modal relatou até 2 vezes a produção de sandboxes por núcleo em comparação com hardware x86 comparável, com ganhos de desempenho aumentando sob cargas de trabalho pesadas. A DuckLabs observou 1.5 vezes o desempenho médio TPC-H SF1000 de uma baseline Intel Xeon 6.
Para operadores de infraestrutura, a eficiência da Vera se traduz em requisitos de hardware reduzidos. A Daytona estimou que sustentar 1,000 trabalhos por segundo exigiria aproximadamente 15% menos máquinas Vera do que máquinas EPYC 9755 e 38% menos do que máquinas EPYC 9575F para a mesma carga de trabalho.
Implicações Estratégicas
À medida que as fábricas de IA continuam a escalar, a demanda por CPUs capazes de equilibrar velocidade, capacidade e eficiência energética crescerá. A CPU Vera da NVIDIA se posiciona como uma solução versátil para essas necessidades em evolução, oferecendo uma plataforma unificada para diversas cargas de trabalho de agentes sem a necessidade de configurações misturadas de x86.