Copied


AMD가 메타의 Muse Spark Open에 대한 day-0 지원을 추가했습니다

Iris Coleman   Oct 16, 2026 19:22 0 Min Read


AMD는 목요일에 Instinct MI350X에서 메타의 Muse Spark Open과 ROCm 소프트웨어와 vLLM을 사용하는 MI355X GPU에 대한 지원day-0 추가했다고 밝혔으며, 이는 코딩과 장기 추론 작업을 위한 대규모 오픈 가중치 모델로 스택을 자리매김하게 했습니다.

증거와 맥락

2026년 10월 15일에 발표된 기술 기사에서 AMD는 Muse Spark Open을 Muse Spark 계열 중 최초의 오픈 가중치 모델로 설명하며, 816억 개의 총 매개변수, 토큰당 42억 개의 활성 매개변수, 1백만 토큰 컨텍스트 윈도우를 가진 네이티브 멀티모달 Mixture-of-Experts 모델이라고 밝혔습니다. AMD는 이 모델에 구성 가능한 추론과 네이티브 툴 호출이 포함되어 있으며, Hugging Face, Muse Code, Meta Model API, OpenRouter에서 이용 가능하다고 밝혔습니다.

AMD는 이 모델이 여덟 Instinct MI350X 또는 MI355X GPU 단일 노드에서 실행될 수 있으며, GPU당 288 GB의 HBM3E과 8 TB/s 메모리 대역폭을 적용할 수 있으며, 여덟 GPU 간 텐서 병렬리즘을 사용한다고 밝혔습니다. 회사 측은 소프트웨어 스택이 ROCm 7.2 vLLM과 함께 AMD AITER 커널 라이브러리를 사용해 주의, MoE, 통신을 담당하고, 디코딩 단계에 CUDA 그래프 캡처를 적용한다고 밝혔습니다.

기사에는 vLLM에 지원되는 체크포인트가 세 나열되어 있습니다: BF16 오픈 릴리스, MXFP4 AMD Quark 내보내기, PTPC를 이용한 FP8 AMD Quark 내보내기. AMD는 BF16 체크포인트가 로딩 시 라우팅된 전문가들을 MXFP4으로 돌려주는 옵트인 모드로도 제공될 수 있으며, 별도의 체크포인트 없이 MXFP4 메모리와 처리량 프로필을 제공합니다.

AMD는 테스트 성능 수치도 발표했습니다. 디코딩 단계 최적화를 통해 MXFP4 체크포인트가 206에서 350회로, 네 동시 요청에서 719에서 1,180 32로 증가했다고 밝혔습니다. 회사는 전문가 병렬성이 32 MXFP4에서 동시 요청을 128 20% 처리량에 7% 기여했고, 첫 토큰까지 약 24%줄여 128초당 2,197 토큰에 도달했다고 밝혔습니다. AMD는 조정된 AITER 퓨즈드 MoE 테이블이 단일 요청 디코드 처리량을 TP8에서 초당 98 토큰에서 114 토큰으로 높였으며, DSpark의 추측적 디코딩은 단일 스트림에서 초당 199 토큰에 도달했다고 밝혔습니다.

AMD는 GSM8K 정확도가 MXFP4 구성에서 94.4%에서 95.5% 범위 내에 유지된다고 밝혔습니다. 회사는 부하에 따라 다양한 서빙 설정을 권장했는데, 최대 약 64 동시 요청에는 TP8 플러스 EP8 더, 더 높은 부하에는 TP8 플러스 EP8 정도가 포함됩니다. AMD는 또한 day-0 레시피가 vLLM-recipe에서 제공되며, ROCm vLLM 도커 이미지는 vllm/vllm-openai-rocm:muse-spark-open이라고 밝혔습니다.

해당 기사에서는 지원에 대한 상업적 조건을 제공하지 않았으며, 보고된 처리량과 지연 시간은 AMD가 설명한 구성에 대한 자체 테스트 결과였습니다.


Read More