AMD ajoute day-0 support MiniMax-M3.1 sur les GPU Instinct MI350

AMD a déclaré le 22 octobre 2026 que MiniMax-M3.1 dispose désormais de day-0 support sur les GPU Instinct MI350 Series via sa pile d’inférence ROCm, y compris les versions ROCm de vLLM et ATOM. La société a indiqué que le modèle MoE multimodal natifement peut fonctionner soit avec le point de contrôle NVFP4 original converti au chargement, soit avec une exportation MXFP4 produite avec AMD Quark, avec des noyau et des chemins de service séparés pour les déploiements à latence et à concurrence plus élevée.

Preuves et contexte

Dans l’article technique d’AMD publié le 22 octobre 2026, la société a décrit MiniMax-M3.1 comme un modèle de codage et de charges de travail d’agents avec un contexte 1M-token, un raisonnement intégré, un appel d’outils natif et un décodage spéculatif DSpark. AMD a indiqué que vLLM et ATOM servent tous deux le modèle sur MI350 GPU, tandis que les noyaux AITER gèrent les experts routés, l’attention et les chemins de réduction. L’article précisait également que le point de contrôle MXFP4 produit avec AMD Quark, ainsi qu’une conversion équivalente du point de contrôle de NVFP4 version au moment du chargement, correspondaient à l’erreur d’évaluation sur GSM8K, AIME et MMMU-Pro.

AMD a rapporté que son chemin de décodage mono-décodage vLLM réduisait la latence par jeton de 3.2x à un demande, 2.1x à quatre requêtes et 1.5x à seize requêtes contre le même serveur avec le décodage mono désactivé. Sur les pistes réelles d’agents de codage, AMD a indiqué que le décodage mono augmentait l’interactivité de 2.2x à 2.4x à un pour huit utilisateurs simultanés, tandis que DSpark ajoutait environ un tiers d’interactivité supplémentaire à un pour quatre utilisateurs et 13% à huit lorsqu’il est composé avec un décodage mono. AMD a indiqué que DSpark sans décodage mono est la solution de secours pour les configurations où le mono ne peut pas fonctionner.

Pour ATOM, AMD a indiqué qu’elle accorde une attention FP8 par canal et un expert partagé fusionné au démarrage, et capture le passage de draft DSpark avec des graphiques CUDA. La société a indiqué que le draft accepte environ la moitié de ses sept jetons spéculatifs sur texte réel. AMD a également indiqué que l’implémentation MI350 utilise le parallélisme tensoriel à 4 voie par réplique, permettant deux répliques sur un nœud GPU 8, et que les deux moteurs prennent en charge le checkpoint de release et l’exportation Quark MXFP4, bien que ATOM serve l’exportation Quark dans sa recette rapportée.

L’article incluait des tableaux de benchmark de 2026-10 montrant que, sur les configurations de test d’AMD, vLLM et ATOM produisaient des résultats étroitement regroupés sur GSM8K, AIME 2025, AIME 2026 et MMMU-Pro, avec la meilleure précision rapportée variant selon le moteur et le checkpoint. AMD a également noté des limites à l’implémentation actuelle du mono-décodage : le 16-token step cap signifie que mono plus DSpark n’est utilisable que jusqu’à quatre requêtes concurrentes dans la configuration citée, tandis que les étapes de décodage plus larges reviennent au chemin standard. AMD a indiqué que les étapes mono plus larges et le support mono-décodage ATOM pour MiniMax-M3.1 sont les prochains sur sa liste de développement, mais n’a pas donné de date pour ce travail.