NVIDIA Alpamayo 2 EdgeがオンボードシステムのAV推論を最適化

NVIDIAはAlpamayo 2 Edgeを発表しました。これは、オンボードの自律走行車（AV）システムの計算および遅延制約内で動作するように設計された、2億パラメータの適応推論ビジョン・言語・アクション（VLA）モデルです。NVIDIA DRIVE AGX Thor上でリアルタイム展開のために構築され、このモデルはエッジ環境における推論の質と効率のバランスを取る課題に対応しています。

Alpamayo 2 Edgeの主な機能

Alpamayo 2 Edgeは、NVIDIA Cosmos 3 EdgeのNemotron推論バックボーンに基づいており、拡散アクションエキスパートを組み込んでいます。周囲のカメラ、時間的コンテキスト、およびナビゲーション命令からの入力を処理し、因果関係の連鎖（CoC）推論および運転軌道を生成します。このモデルは、日常的な運転中に不要なトークン生成を最小限に抑えるために適応推論を使用し、推論計算リソースを節約します。

パフォーマンスをさらに最適化するために、Alpamayo 2 Edgeは、NVIDIA AlpaGymでのクローズドループ強化学習（RL）によるポストトレーニングを受けました。このプロセスにより、RLなしの最適なチェックポイントと比較して、クローズドループ運転性能が48.9%向上しました。さらに、このモデルは複数の解像度入力とDFlash2による推測デコーディングをサポートし、品質を犠牲にすることなく効率的なオンライン推論を実現します。

評価と展開

推論の質を保証するために、NVIDIAは人間調整された評価および報酬モデルであるAlpaJudgeを開発しました。AlpaJudgeは、推論のトレースを評価し、高価値のトレーニングデータを選択し、RLの報酬を提供します。開発者は、以下の方法でワークフローにAlpaJudgeを統合してモデル性能を向上させることができます：

• PhysicalAI-AVサンプルの評価を実行する。
• 学習機会を提供するトレーニング例を選択する。
• ポストトレーニングのための報酬として推論スコアを使用する。

Alpamayo 2 Edgeのデプロイメントレシピには、NVIDIA TensorRTおよびTensorRT-Edge-LLMを使用した量子化および推論加速技術が含まれています。これらの最適化により、DRIVE AGX Thor上でのピクセルから軌道へのレイテンシが160-190ミリ秒を実現します。

パフォーマンスベンチマークと業界からのフィードバック

Qwen- Drive-1.0と比較して、Alpamayo 2 Edgeはクローズドループ運転、オープンループ軌道予測、およびシーン理解のベンチマークで優れたパフォーマンスを示しました。AlpaSimシミュレーションにおいて、過失事故間の距離は約40倍となりました。

初期の採用者は大幅な改善を報告しています。PORTのCTOであるMatas Simonaviciusは、Alpamayo 2 Edgeがその前のモデルであるAlpamayo 1.5の二倍の頻度で車線維持を行い、二倍の速さで軌道を計画したことを強調しました。同様に、Niulinxの共同創設者であるLuca Crottiは、ゼロショット評価中の3秒での横方向予測誤差が46.1%減少したと指摘しました。EmbedlのCEOであるHans Salomonssonは、このモデルが48時間以内にAGX Thor上で10 Hzのリアルタイム計画速度を達成したことを確認しました。

これらの進展は、Alpamayo 2 EdgeをオンボードAVシステムに推論ベースの運転機能を統合するための強力なソリューションとして位置づけています。