NVIDIA Alpamayo 2 Edge Otimiza o Raciocínio AV para Sistemas Integrados
A NVIDIA apresentou o Alpamayo 2 Edge, um modelo de raciocínio adaptativo com parâmetros de bilhões 2 , projetado para operar dentro das restrições de computação e latência dos sistemas de veículos autônomos (AV) a bordo. Construído para implementação em tempo real no NVIDIA DRIVE AGX Thor, o modelo aborda o desafio de equilibrar a qualidade do raciocínio e a eficiência em ambientes de edge.
Características Principais do Alpamayo 2 Edge
O Alpamayo 2 Edge é baseado na espinha dorsal de raciocínio Nemotron do NVIDIA Cosmos 3 Edge e incorpora um especialista em ação de difusão. Ele processa entradas de câmeras de visão surround, contexto temporal e instruções de navegação para gerar raciocínios de Cadeia de Causalidade (CoC) e trajetórias de condução. O modelo emprega raciocínio adaptativo para minimizar a geração desnecessária de tokens durante a condução rotineira, conservando recursos de computação de inferência.
Para otimizar ainda mais o desempenho, o Alpamayo 2 Edge passou por um treinamento pós-treinamento com aprendizado por reforço em loop fechado (RL) no NVIDIA AlpaGym. Esse processo melhorou o desempenho de condução em loop fechado em 48.9% em comparação com o melhor checkpoint sem RL. Além disso, o modelo suporta entradas de múltiplas resoluções e decodificação especulativa com DFlash2 , permitindo raciocínios online eficientes sem sacrificar a qualidade.
Avaliação e Implementação
Para garantir a qualidade do raciocínio, a NVIDIA desenvolveu o AlpaJudge, um modelo de avaliação e recompensa calibrado por humanos. O AlpaJudge avalia rastros de raciocínio, seleciona dados de treinamento de alto valor e fornece recompensas de RL. Os desenvolvedores podem integrar o AlpaJudge em fluxos de trabalho para refinar o desempenho do modelo por meio de:
- Executar avaliações em amostras do PhysicalAI-AV.
- Selecionar exemplos de treinamento que exponham oportunidades de aprendizado.
- Usar pontuações de raciocínio como recompensas para o pós-treinamento.
As receitas de implementação para o Alpamayo 2 Edge incluem técnicas de quantização e aceleração de inferência usando NVIDIA TensorRT e TensorRT-Edge-LLM. Essas otimizações permitem uma latência de pixel para trajetória de 160-190 milissegundos no DRIVE AGX Thor.
Referências de Desempenho e Feedback da Indústria
Comparado ao Qwen- Drive-1.0 , o Alpamayo 2 Edge demonstrou desempenho superior em benchmarks de condução em loop fechado, previsão de trajetória em loop aberto e entendimento de cena. Ele alcançou aproximadamente 40 vezes a distância entre incidentes culpa nos simuladores AlpaSim.
Os primeiros adotantes relataram melhorias significativas. Matas Simonavicius, CTO da PORT, destacou que o Alpamayo 2 Edge manteve a disciplina de faixa duas vezes mais frequentemente que seu predecessor, Alpamayo 1.5 , e planejou trajetórias duas vezes mais rapidamente. Da mesma forma, Luca Crotti, co-fundador da Niulinx, observou uma redução de 46.1% no erro de previsão lateral em 3 segundos durante avaliações zero-shot. O CEO da Embedl, Hans Salomonsson, confirmou que o modelo alcançou velocidades de planejamento em tempo real de 10 Hz no AGX Thor dentro de 48 horas de implementação.
Esses avanços posicionam o Alpamayo 2 Edge como uma solução robusta para integrar capacidades de condução baseadas em raciocínio em sistemas de AV a bordo.