AMDが動的なLoRAをRyzenへの切り替えAIソフトウェア1.9追加

AMDによると、Ryzen AI Softwareは、開発者がベースモデルを一度コンパイルでき、NPU上で推論時にLoRAアダプターを動的に切り替えられるようになり、AI PC上で複数の専門モデルを展開する際の重複を削減できると述べています。2026-11-02に発表されたAMDの技術記事によると、この機能はRyzen AI Softwareのリリース1.9で利用可能であり、Qwen2.5-3B、Qwen3-4B、Qwen3.5-4Bなどの選ばれたテキストモデルでサポートされています。

証拠と背景

LoRA(Low-Rank Adaptation)は、ベースモデルを凍結したまま、小さなアダプターの重みを訓練することで大規模な言語モデルを微調整します。AMDは、これまでRyzen AIでサポートされていた展開方法は静的マージで、LoRAの重みをコンパイル前にベースモデルに折りたたみ込む方法でした。同社はこの方法が単一のアダプターには有効ですが、複数の専門アダプターが必要になると効率が悪くなると述べています。なぜなら、マージされた各モデルが同じベースウェイトを重複するためです。

動的LoRAでは、AMDは一つの量子化されたベースモデルがNPUに常駐し、小さなアダプターは別々のアーティファクトとしてコンパイルされ名前で起動されると述べています。記事によると、これによりアプリケーションは一つのスペシャリストから別のスペシャリスト、例えばSQL特化モデルから医療モデルへと切り替え、ベースモデルをリロードせずに一つに切り替えられるとのことです。

AMDはまた、アダプターはすでに量子化されたベースモデルに対して訓練する必要があると警告しました。記事の中で、同社はNPUベースが INT4 に量子化されており、量子化されたベースに適用する前に全精度モデルに対してLoRAアダプターを訓練すると、アダプターのデバイス上の利点が損なわれると述べています。

同社は四ステップの流れを説明しました:AMD QuarkでAWQ INT4を使ってベースモデルを一度量子化し、凍結された量子化されたベースに対して各LoRAアダプターを微調整し、マージせずに保存します。ベースと各APUアダプターを各アダプターごとに単一のmodel_generate呼び出しでコンパイルし、ベースを一度ロードし実行時にアダプターを切り替えます。

AMDは、Spiderで訓練されたテキストからSQLへのアダプターとMedMCQAで訓練された医療用選択式アダプターの二ベースを用いたQwen3-4B INT4ベースを用いていると述べています。Ryzen AI NPUに関しては、Spiderの実行精度が47.5%から63.0%に上昇し、15.5ポイント向上し、MedMCQAの完全一致は42.0%から53.0%に11.0ポイント向上したと報告しています。記事によると、両方の結果はn=200例に基づいているとのことです。

AMDは、Ryzen AI Softwareの例リポジトリで実行可能な例が利用可能であり、Ryzen AI Softwareのリリース1.9では長期コンテキストサポート、量子化対応訓練で生成されたINT4量子化モデルのインポート、追加モデルのサポートも導入されていると述べました。記事では、名前付きのテキストモデル三以外の広範なモデルリストや、引用された例以外の独立したベンチマーク比較は公開されていません。