AMD añade day-0 soporte para Muse Spark Open de Meta
AMD anunció el jueves que ha añadido soporte day-0 para Muse Spark Open de Meta en GPUs Instinct MI350X y MI355X utilizando software ROCm y vLLM, posicionando la pila para un modelo grande de peso abierto orientado a tareas de programación y razonamiento de larga duración.
Evidencia y contexto
En el artículo técnico publicado el 15 de octubre de 2026, AMD describió Muse Spark Open como el primer modelo de peso abierto de la familia Muse Spark y afirmó que es un modelo multimodal nativo de Mezcla de Expertos con 816 mil millones de parámetros totales, 42 mil millones activos por token y una ventana de contexto de 1 millones de tokens. AMD dijo que el modelo incluye razonamiento configurable y llamada nativa a herramientas, y que está disponible en Hugging Face, Muse Code, la API Meta Model y OpenRouter.
AMD afirmó que el modelo puede funcionar en un solo nodo de ocho MI350X Instinct o MI355X GPUs, con 288 GB de HBM3E por GPU y 8 TB/s de ancho de banda de memoria, utilizando paralelismo tensorial entre ocho GPUs. La compañía indicó que la pila de software es ROCm 7.2 con vLLM, junto con la biblioteca del kernel AMD AITER para atención, MoE y comunicación, y captura de grafos CUDA para el paso de decodificación.
El artículo enumeraba tres puntos de control soportados para vLLM: una versión abierta BF16, una exportación MXFP4 de AMD Quark y una exportación FP8 de AMD Quark usando PTPC. AMD dijo que el punto de control BF16 también puede servirse con un modo opt-in que redondea a los expertos enrutados a MXFP4 en el momento de carga, proporcionando al MXFP4 memoria y perfil de rendimiento sin un punto de control separado.
AMD también publicó cifras de rendimiento de sus pruebas. Indicó que las optimizaciones por pasos de decodificación aumentaron el punto de control de MXFP4 de 206 a 350 tokens de salida por segundo en cuatro solicitudes concurrentes y de 719 a 1,180 en 32 solicitudes concurrentes. La compañía afirmó que el paralelismo experto añadió 7% al rendimiento de 20% a 32 a 128 solicitudes concurrentes en MXFP4 y redujo el tiempo hasta el primer token en aproximadamente 24%, alcanzando 2,197 tokens por segundo a 128. AMD indicó que su tabla modificada AITER fusionada-MoE aumentó el rendimiento de decodificación de solicitud única de 98 a 114 tokens por segundo en TP8, mientras que la decodificación especulativa DSpark alcanzó 199 tokens por segundo en un solo flujo.
AMD afirmó que GSM8K precisión se mantenía dentro de un rango de 94.4% a 95.5% en sus configuraciones de MXFP4 . La compañía recomendó diferentes configuraciones de servicio según la carga, incluyendo TP8 más EP8 plus DSpark para hasta unas 64 solicitudes concurrentes y TP8 más EP8 para cargas más altas. AMD también dijo que la receta de day-0 está disponible en vLLM-recipe y que su imagen ROCm vLLM Docker es vllm/vllm-openai-rocm:muse-spark-open.
El artículo no proporcionaba términos comerciales para el soporte, y las cifras reportadas de rendimiento y latencia eran los propios resultados de prueba de AMD sobre las configuraciones que describía.