A AMD adiciona comutação dinâmica LoRA para o Ryzen IA Software 1.9
A AMD afirma que seu software Ryzen IA agora permite que os desenvolvedores compilem um modelo base uma vez e troquem os adaptadores LoRA dinamicamente no momento da inferência na NPU, uma mudança que a empresa diz pode reduzir duplicação ao implantar múltiplos modelos especializados em um PC IA. Em um artigo técnico da AMD publicado 2026-11-02, a empresa afirmou que o recurso está disponível na versão 1.9 do Ryzen IA Software e é suportado para modelos de texto selecionados, incluindo Qwen2.5-3B, Qwen3-4B e Qwen3.5-4B.
Evidências e contexto
LoRA, ou Low-Rank Adaptation, ajusta finamente um grande modelo de linguagem treinando pesos pequenos dos adaptadores enquanto mantém o modelo base congelado. A AMD disse que o método de implantação anteriormente suportado no Ryzen IA era a fusão estática, onde os pesos LoRA são incorporados ao modelo base antes da compilação. A empresa afirmou que essa abordagem funciona para um único adaptador, mas se torna ineficiente quando múltiplos adaptadores especializados são necessários, porque cada modelo fundido duplica os mesmos pesos base.
Com a LoRA dinâmica, a AMD disse que um modelo base quantizado permanece residente na NPU, enquanto pequenos adaptadores são compilados como artefatos separados e ativados pelo nome. O artigo dizia que isso permite que uma aplicação mude de um especialista para outro, como um modelo focado em SQL para um médico, sem recarregar o modelo base.
A AMD também alertou que adaptadores devem ser treinados contra o modelo base já quantizado. No artigo, a empresa afirmou que a base da NPU é quantizada para INT4 em seu exemplo, e que treinar um adaptador LoRA contra um modelo de precisão total antes de aplicá-lo à base quantizada pode reduzir o benefício do adaptador sobre o dispositivo.
A empresa descreveu um fluxo de quatro etapas: quantizar o modelo base uma vez com AMD Quark usando INT4 AWQ; ajustar cada adaptador LoRA contra essa base quantizada congelada e salvá-la sem mergo; compilar a base e cada adaptador para a NPU com uma única chamada de model_generate por adaptador; e servir carregando a base uma vez e trocando os adaptadores em tempo de execução.
A AMD disse que seu exemplo usou uma base Qwen3-4B INT4 com adaptadores dois: um adaptador de texto para SQL treinado no Spider e um adaptador médico de múltipla escolha treinado no MedMCQA. No Ryzen IA NPU, a AMD relatou que a precisão da execução do Spider subiu de 47.5% para 63.0%, um ganho de 15.5 pontos percentuais, enquanto a correspondência exata do MedMCQA aumentou de 42.0% para 53.0%, um ganho de 11.0 pontos. O artigo dizia que ambos os resultados foram baseados em n=200 exemplos.
A AMD afirmou que um exemplar executável está disponível em seu repositório de exemplos do Ryzen IA Software e que a versão 1.9 do Ryzen IA Software também introduz suporte a contexto longo, importação de modelos INT4 quantizados produzidos por treinamento consciente da quantização e suporte para modelos adicionais. O artigo não divulgou uma lista mais ampla de modelos além dos modelos de texto nomeados três nem forneceu comparações independentes de benchmarks fora do exemplo citado.