AMD ajoute day-0 support pour Muse Spark Open de Meta

AMD a annoncé jeudi avoir ajouté day-0 support pour Muse Spark Open de Meta sur les GPU Instinct MI350X et MI355X utilisant le logiciel ROCm et le vLLM, positionnant ainsi la pile pour un grand modèle à poids ouvert destiné au codage et aux tâches de raisonnement de longue durée.

Preuves et contexte

Dans l’article technique publié le 15 octobre 2026, AMD a décrit Muse Spark Open comme le premier modèle à poids ouvert de la famille Muse Spark et a indiqué qu’il s’agit d’un modèle multimodal natif, composé de 816 milliards de paramètres au total, de 42 milliards d’actifs par jeton et d’une fenêtre contextuelle de 1 millions de jetons. AMD a indiqué que le modèle inclut un raisonnement configurable et un appel d’outils natif, et qu’il est disponible sur Hugging Face, Muse Code, l’API Meta Model et OpenRouter.

AMD a indiqué que le modèle peut fonctionner sur un seul nœud de huit MI350X Instinct ou MI355X GPU, avec 288 Go de HBM3E par GPU et 8 de bande passante mémoire/s, en utilisant le parallélisme tensoriel entre huit GPU. La société a indiqué que la pile logicielle est ROCm 7.2 avec vLLM, ainsi que la bibliothèque du noyau AMD AITER pour l’attention, le MoE et la communication, et la capture de graphes CUDA pour l’étape de décodage.

L’article énumérait trois points de contrôle pris en charge pour le vLLM : une version ouverte BF16, une exportation MXFP4 quark AMD et une exportation FP8 quark AMD via PTPC. AMD a indiqué que le point de contrôle BF16 pouvait également être servi avec un mode opt-in qui envoie les experts routés vers MXFP4 au moment du chargement, offrant ainsi au profil mémoire et débit MXFP4 sans point de contrôle séparé.

AMD a également publié les chiffres de performance de ses tests. Il a indiqué que les optimisations par étapes de décodage ont augmenté le point de contrôle de MXFP4 de 206 à 350 jetons de sortie par seconde lors de quatre requêtes concurrentes et de 719 à 1,180 à 32 requêtes concurrentes. L’entreprise a indiqué que le parallélisme expert ajoutait 7% au débit de 20% à 32 à 128 requêtes concurrentes sur MXFP4 et réduit le temps jusqu’au premier jeton d’environ 24%, atteignant 2,197 jetons par seconde à 128. AMD a indiqué que sa table AITER fusionnée-MoE ajustée a augmenté le débit de décodage à demande unique de 98 à 114 jetons par seconde sur TP8, tandis que le décodage spéculatif DSpark atteignait 199 jetons par seconde dans un seul flux.

AMD a indiqué que GSM8K précision restait dans une fourchette de 94.4% à 95.5% dans ses configurations MXFP4 . La société recommandait différentes configurations de service selon la charge, incluant TP8 plus EP8 plus DSpark pour environ 64 requêtes simultanées et TP8 plus EP8 pour des charges plus élevées. AMD a également indiqué que la recette day-0 est disponible en vLLM-recipe et que son image ROCm vLLM Docker est vllm/vllm-openai-rocm :muse-spark-open.

L’article ne fournissait pas de termes commerciaux pour le support, et les chiffres rapportés de débit et de latence étaient les propres résultats de test d’AMD sur les configurations qu’il décrivait.