AMD fügt day-0 Unterstützung für Metas Muse Spark Open hinzu
AMD teilte am Donnerstag mit, dass es day-0 Unterstützung für Metas Muse Spark Open auf Instinct MI350X und MI355X GPUs mit ROCm-Software und vLLM hinzugefügt hat, wodurch der Stack für ein großes Open-Weight-Modell positioniert wird, das auf Codierung und langfristige Denkaufgaben abzielt.
Beweise und Kontext
In dem technischen Artikel, der am 15. Oktober 2026 veröffentlicht wurde, beschrieb AMD Muse Spark Open als das erste Open-Weight-Modell der Muse Spark-Familie und erklärte, es sei ein nativ multimodales Mixture-of-Experts-Modell mit 816 Milliarden Gesamtparametern, 42 Milliarden aktiven pro Token und einem 1 Millionen-Token-Kontextfenster. AMD gab an, dass das Modell konfigurierbares Denken und native Werkzeugaufrufe enthält und auf Hugging Face, Muse Code, der Meta Model API und OpenRouter verfügbar ist.
AMD sagte, das Modell könne auf einem einzigen Knoten acht Instinct-MI350X- oder MI355X-GPUs laufen, mit 288 GB HBM3E pro GPU und 8 TB/s-Speicherbandbreite, wobei Tensor-Parallelität über acht GPUs verwendet wird. Das Unternehmen sagte, der Software-Stack sei ROCm-7.2 mit vLLM, zusammen mit der AMD AITER-Kernelbibliothek für Attention, MoE und Kommunikation sowie CUDA-Graph-Capture für den Dekodierungsschritt.
Der Artikel listete drei unterstützte Kontrollpunkte für vLLM auf: eine BF16 offene Version, einen MXFP4 AMD Quark Export und einen FP8 AMD Quark Export über PTPC. AMD sagte, der BF16 Checkpoint könne auch mit einem Opt-in-Modus bedient werden, der geroutete Experten zur Ladezeit auf MXFP4 umrundet und so das MXFP4 Speicher- und Durchsatzprofil ohne separaten Checkpoint bietet.
AMD veröffentlichte außerdem Leistungsdaten aus seinen Tests. Es erklärte, dass die Decode-Schritt-Optimierungen den MXFP4 Checkpoint von 206 auf 350 Ausgabetoken pro Sekunde bei vier gleichzeitigen Anfragen und von 719 auf 1,180 bei 32 gleichzeitigen Anfragen erhöht haben. Das Unternehmen erklärte, dass Expertenparallelisierung 7% 20% Durchsatz bei 32 128 gleichzeitigen Anfragen auf MXFP4 erhöht und die Zeit bis zum ersten Token um etwa 24% reduziert hat, sodass bei 128 2,197 Token pro Sekunde erreicht wurde. AMD teilte mit, dass seine abgestimmte AITER-Fused-MoE-Tabelle den Durchsatz für die Single-Request-Dekodierung von 98 auf 114 Token pro Sekunde auf TP8 erhöht hat, während DSparks spekulative Dekodierung in einem einzigen Strom 199 Token pro Sekunde erreichte.
AMD sagte, GSM8K Genauigkeit bleibe innerhalb eines 94.4% bis 95.5% Bereich über seine MXFP4 Konfigurationen hinweg. Das Unternehmen empfahl je nach Last unterschiedliche Serving-Setups, darunter TP8 plus EP8 plus DSpark für bis zu etwa 64 gleichzeitige Anfragen und TP8 plus EP8 für höhere Lasten. AMD sagte außerdem, dass das day-0 Rezept in vLLM-recipe verfügbar ist und dass sein ROCm vLLM Docker-Image vllm/vllm-openai-rocm:muse-spark-open ist.
Der Artikel lieferte keine kommerziellen Begriffe für die Unterstützung, und die gemeldeten Durchsatz- und Latenzzahlen waren AMDs eigene Testergebnisse zu den beschriebenen Konfigurationen.