Blackfuel startet AMD-betriebene KI-Inferenz-Cloud in Barcelona
Blackfuel hat offiziell seine erste ausschließlich auf Inferenz ausgerichtete Bereitstellung in Barcelona gestartet, die AMD Instinct™ MI355X GPUs und AMD ROCm™ offene Software nutzt. Dies markiert einen bedeutenden Schritt in der Mission des Unternehmens, eine globale, inference-native Cloud-Infrastruktur zu bauen, die darauf abzielt, messbare und reservierbare KI-Ausgaben bereitzustellen.
Barcelona-Einsatz: Ein neues Modell für die KI-Infrastruktur
Der Einsatz in Barcelona wird von Digital Realty gehostet und verfügt über flüssigkeitsgekühlte Dell PowerRack-Systeme, die mit Dell PowerEdge XE9785L-Servern ausgestattet sind, die von AMD Instinct MI355X-Beschleunigern betrieben werden. Bereitstellungs- und Integrationsunterstützung wird von Dell und NTT DATA bereitgestellt. Blackfuels Ansatz integriert Rechenleistung, Datenzentrumskapazitäten, Speicher und Software in ein einheitliches System und bietet den Kunden mehr Kontrolle über den Bereitstellungsort, die Modelle und die Betriebsumgebungen.
Die Infrastruktur von Blackfuel wurde entwickelt, um die Inferenz über mehrere Beschleunigerarchitekturen und Hardwaregenerationen zu optimieren. Die AMD Instinct MI355X GPUs, basierend auf der CDNA 4 Architektur, enthalten 288 GB von HBM3E Speicher und bieten eine bis zu 8 TB/s Speicherbandbreite, die das Hardware-Rückgrat der Plattform bereitstellt.
KI-Token-Gitter: Ein Wandel zu einer ergebnisorientierten Infrastruktur
Im Kern von Blackfuels Strategie steht das KI-Token-Gitter, ein Netzwerk architekturspezifischer BeschleunigerCluster, die über eine gemeinsame Software- und Handelsebene verbunden sind. Diese Plattform ermöglicht es den Kunden, Inferenzkapazitäten gemäß spezifischen Durchsatz-, Latenz- und Datenstandortanforderungen zu reservieren, ohne die zugrunde liegende Infrastruktur verwalten zu müssen.
Blackfuel führt auch Logische GPUs ein, vertragliche Serviceeinheiten, die es Kunden ermöglichen, einen Teil der Dienstleistungskapazität eines Modells für eine feste monatliche Gebühr zu reservieren. Dieses Modell stellt konsistente Servicelevels sicher, während die zugrunde liegende Hardware und Konfigurationen weiterentwickelt werden können.
Offene Software als strategische Grundlage
Blackfuels Software-Stack basiert auf AMD ROCm™ und offenen Dienst- Technologien wie vLLM und SGLang. Durch die Kombination offener Software mit proprietären Routing-, Zuteilungs- und Messwerkzeugen zielt das Unternehmen darauf ab, die ServicetKosten zu senken und die nützlichen Tokens pro Megawatt zu erhöhen. Die Plattform ist darauf ausgelegt, eine breite Palette von Modellen zu unterstützen, einschließlich solcher von Meta, OpenAI, NVIDIA und Google, unter anderem.
Offene Software bietet Flexibilität für Entwickler und Betreiber, sich an schnell entwickelnde KI-Modelle und -Rahmen anzupassen und sicherzustellen, dass die Infrastruktur von Blackfuel zukunftssicher bleibt.
Folgen für das KI-Ökosystem
Der Einsatz von Blackfuel in Barcelona hebt einen breiteren Wandel in der KI-Infrastruktur von kapazitätsfokussierten zu ergebnisorientierten Modellen hervor. Durch die Bereitstellung von lokal betriebenen, reservierbaren KI-Kapazitäten bietet das Unternehmen Unternehmen, Modellentwicklern und KI-nativen Unternehmen eine Alternative zu traditionellen Cloud-Anbietern. Dieser Ansatz bringt die Infrastrukturkapazitäten mit leistungsbezogenen und Serviceverpflichtungen auf Kundenspezifische Weise in Einklang und setzt einen neuen Standard für KI-Inferenz in großem Maßstab.