Copied


AMD Demonstriert KI-Fortschritte auf der PyTorch-Konferenz 2026

Lawrence Jengar   Nov 04, 2026 17:09 0 Min Read


Auf der PyTorch-Konferenz 2026, die 10 20–21 in San Jose stattfand, demonstrierte AMD sein Engagement für den Fortschritt des offenen KI-Ökosystems durch Innovationen in Training, Inferenz und Leistungsoptimierung. Das Unternehmen betonte seine Beiträge zum ROCm™ Software-Stack und seine Unterstützung für skalierbare, effiziente KI-Anwendungen auf verschiedenen Plattformen.

Erweiterung der PyTorch-Integration über Plattformen hinweg

AMD präsentierte die native PyTorch-Integration in seinem ROCm Software-Stack, die eine nahtlose Entwicklung auf Cloud-, Rechenzentrum-, Arbeitsstation- und Client-Plattformen ermöglicht. Zu den wichtigsten Highlights gehörten das MLIR-native FlyDSL-Backend für TorchInductor, das Reinforcement Learning nach dem Training und die Implementierung sowie die PyTorch-Inferenz auf der AMD XDNA™ NPU-Architektur. Praktische Lernsessions durch AMD Skills ermöglichten es den Entwicklern zudem, ihre KI-Workflows zu optimieren.

Optimierung der Leistung durch Kernel- und Framework-Verbesserungen

Die Leistungsoptimierung war ein zentrales Thema der Beiträge von AMD. Das Unternehmen stellte Fortschritte wie PerfModel zur Optimierung des Triton-Kernels, Grouped GEMM auf ROCm, TorchAO-Kerne mit MXFP8, FlexAttention und KV-Caching-Optimierung sowie eine Inferenzanalyse mit TraceLens vor. Weitere Bemühungen umfassten die agentische Arbeitslastoptimierung mit Hyperloom und eine effiziente Inferenz des Masked Diffusion Language Model.

Skalierung von KI-Arbeitslasten mit AMD Instinct GPUs

AMD hob seine Fortschritte bei der Skalierung von KI-Trainings- und Inferenzarbeitslasten hervor. Dazu gehörte das MXFP8 Pretraining auf über 1,000 AMD Instinct™ MI355X GPUs, verteiltes Training mit TorchTitan und Innovationen wie rocSHMEM symmetrischer Speicher und RCCL GPU-initiiertes Networking. Zu den weiteren Fortschritten gehörten MoRI und vLLM für Expertenparallelität und disaggregierten Mischexperten-Service sowie großangelegte Trainings- und Implementierungsmaßnahmen im Reinforcement Learning.

Technische Beiträge und Entwicklerengagement

Die Ingenieure von AMD hielten auf der Konferenz Breakout-Sessions, Lightning Talks und Posters. Zu den bemerkenswerten Präsentationen gehörten:

  • Mahdi Ghodsi: "Kosten-effiziente Mischmodelle auf AMD GPUs mit vLLM Semantic Router erstellen"
  • Jiahui Cao: "TorchInductor mit FlyDSL erweitern: Ein neues MLIR-natives Backend für Hochleistungs-GEMMs"
  • Prachi Gupta: "rocSHMEM symmetrischer Speicher in PyTorch für AMD GPUs"
  • Shekhar Pandey: "MXFP8/4 Pretraining in großem Maßstab mit TorchTitan auf AMD Instinct GPUs"
  • Anshu Raina und Peyman Razaghi: "Primus Tuning: Hybride Projektion und agentische Suche für verteiltes Training"

Die Posterbeiträge umfassten Themen wie Grouped GEMM auf ROCm, effiziente Inferenz von Masked Diffusion Language Models und breites Expertenparallelismus mit MoRI und vLLM.

Interaktive Demonstrationen am AMD-Stand

Der AMD-Stand bot praktische Demonstrationen von KI-Workflows, darunter lokale und cloudbasierte Entwicklungen mit ROCm und AMD Skills. Die Teilnehmer erkundeten die Modellspeicherung mit vLLM, Hyperloom zur Arbeitslastoptimierung sowie Live-Demonstrationen von robotischem Reinforcement Learning und Gerätemodellen der Welt. Diese Erfahrungen zeigten die Fähigkeit von AMD, die KI-Entwicklung auf Client- und Rechenzentrum-Plattformen zu unterstützen.

Anerkennung der Führung in der PyTorch-Community

Jeff Daily, einer von drei Programmvorsitzenden der PyTorch Konferenz 2026, wurde für seine Rolle bei der Gestaltung des technischen Programms der Veranstaltung anerkannt. Die Beiträge von AMD unterstrichen den wachsenden Einfluss des Unternehmens im PyTorch-Ökosystem, der durch den Fokus auf Leistung, Skalierbarkeit und Open-Source-Zusammenarbeit angetrieben wird.


Read More