NVIDIA Alpamayo 2 Edge Optimiza el Razonamiento AV para Sistemas a Bordo
NVIDIA ha introducido Alpamayo 2 Edge, un modelo de visión-lenguaje-acción (VLA) de razonamiento adaptable con 2 mil millones de parámetros diseñado para operar dentro de las restricciones de computación y latencia de los sistemas de vehículos autónomos (AV) a bordo. Construido para implementaciones en tiempo real en NVIDIA DRIVE AGX Thor, el modelo aborda el desafío de equilibrar la calidad del razonamiento y la eficiencia en entornos de borde.
Características Clave de Alpamayo 2 Edge
Alpamayo 2 Edge se basa en la columna vertebral de razonamiento Nemotron de NVIDIA Cosmos 3 Edge e incorpora un experto en acción difusa. Procesa entradas de cámaras de vista envolvente, contexto temporal e instrucciones de navegación para generar razonamiento de Cadena de Causalidad (CoC) y trayectorias de conducción. El modelo emplea razonamiento adaptativo para minimizar la generación innecesaria de tokens durante la conducción rutinaria, conservando recursos computacionales de inferencia.
Para optimizar aún más el rendimiento, Alpamayo 2 Edge se sometió a un posterior entrenamiento con aprendizaje por refuerzo (RL) en NVIDIA AlpaGym. Este proceso mejoró el rendimiento de conducción de lazo cerrado en 48.9% en comparación con el mejor punto de control de rendimiento sin RL. Además, el modelo admite entradas de resolución múltiple y decodificación especulativa con DFlash2 , lo que permite un razonamiento en línea eficiente sin sacrificar la calidad.
Evaluación y Despliegue
Para garantizar la calidad del razonamiento, NVIDIA desarrolló AlpaJudge, un modelo de evaluación y recompensa calibrado por humanos. AlpaJudge evalúa los rastros de razonamiento, selecciona datos de entrenamiento de alto valor y proporciona recompensas de RL. Los desarrolladores pueden integrar AlpaJudge en flujos de trabajo para refinar el rendimiento del modelo mediante:
- Realización de evaluaciones en muestras de PhysicalAI-AV.
- Selección de ejemplos de entrenamiento que expongan oportunidades de aprendizaje.
- Uso de puntuaciones de razonamiento como recompensas para el posterior entrenamiento.
Las recetas de implementación para Alpamayo 2 Edge incluyen técnicas de cuantización y aceleración de inferencia utilizando NVIDIA TensorRT y TensorRT-Edge-LLM. Estas optimizaciones permiten una latencia de píxel a trayectoria de 160-190 milisegundos en DRIVE AGX Thor.
Referencias de Rendimiento y Retroalimentación de la Industria
En comparación con Qwen- Drive-1.0 , Alpamayo 2 Edge demostró un rendimiento superior en conducción de lazo cerrado, predicción de trayectoria de lazo abierto y puntos de referencia de comprensión de escenas. Alcanzó aproximadamente 40 veces la distancia entre incidentes culpables en simulaciones de AlpaSim.
Los primeros adoptantes han informado mejoras significativas. Matas Simonavicius, CTO de PORT, destacó que Alpamayo 2 Edge mantuvo la disciplina del carril el doble de veces que su predecesor, Alpamayo 1.5 , y planeó trayectorias el doble de rápido. Del mismo modo, Luca Crotti, cofundador de Niulinx, notó una reducción de 46.1% en el error de predicción lateral en 3 segundos durante evaluaciones de cero disparos. El CEO de Embedl, Hans Salomonsson, confirmó que el modelo logró velocidades de planificación en tiempo real de 10 Hz en AGX Thor en un plazo de 48 horas de despliegue.
Estos avances posicionan a Alpamayo 2 Edge como una solución robusta para integrar capacidades de conducción basadas en razonamiento en sistemas AV a bordo.