Blackfuel lance un cloud d'inférence IA alimenté par AMD à Barcelone
Blackfuel a officiellement lancé son premier déploiement exclusivement axé sur l'inférence à Barcelone, en utilisant des GPU AMD Instinct™ MI355X et des logiciels ouverts AMD ROCm™. Cela représente un pas significatif dans la mission de l'entreprise de construire une infrastructure cloud mondiale axée sur l'inférence, visant à fournir une sortie IA mesurable et réservable.
Déploiement à Barcelone : Un nouveau modèle pour l'infrastructure IA
Le déploiement à Barcelone est hébergé par Digital Realty et comprend des systèmes Dell PowerRack refroidis par liquide équipés de serveurs Dell PowerEdge XE9785L alimentés par des accélérateurs AMD Instinct MI355X. Le support pour le déploiement et l'intégration est fourni par Dell et NTT DATA. L'approche de Blackfuel intègre le calcul, la capacité des centres de données, le stockage et les logiciels en un système unifié, offrant aux clients un meilleur contrôle sur l'emplacement du déploiement, les modèles et les environnements opérationnels.
L'infrastructure de Blackfuel est conçue pour optimiser l'inférence à travers plusieurs architectures d'accélérateurs et générations de matériel. Les GPU AMD Instinct MI355X, basés sur l'architecture CDNA 4, comprennent 288 Go de mémoire HBM3E et jusqu'à 8 To/s de bande passante mémoire, fournissant le socle matériel pour la plateforme.
AI Token Grid : Un changement vers une infrastructure axée sur la sortie
Au cœur de la stratégie de Blackfuel se trouve son AI Token Grid, un réseau de clusters d'accélérateurs spécifiques à l'architecture connectés à travers une couche logicielle et commerciale commune. Cette plateforme permet aux clients de réserver une capacité d'inférence alignée avec des exigences spécifiques de débit, de latence et de localisation des données sans gérer l'infrastructure sous-jacente.
Blackfuel introduit également les GPU Logiques, des unités de service contractuelles qui permettent aux clients de réserver une fraction de la capacité de service d'un modèle pour un tarif mensuel fixe. Ce modèle garantit des niveaux de service constants tout en permettant au matériel et aux configurations sous-jacents d'évoluer.
Logiciel ouvert comme fondement stratégique
La pile logicielle de Blackfuel repose sur AMD ROCm™ et des technologies de service ouvertes telles que vLLM et SGLang. En combinant des logiciels ouverts avec des outils propriétaires de routage, d'allocation et de mesure, l'entreprise vise à réduire les coûts de service et à augmenter le nombre de tokens utiles par mégawatt. La plateforme est conçue pour soutenir une large gamme de modèles, y compris ceux de Meta, OpenAI, NVIDIA et Google, entre autres.
Le logiciel ouvert offre de la flexibilité aux développeurs et aux opérateurs pour s'adapter aux modèles et cadres IA en évolution rapide, garantissant que l'infrastructure de Blackfuel reste à l'épreuve du temps.
Implications pour l'écosystème IA
Le déploiement de Blackfuel à Barcelone met en évidence un changement plus large dans l'infrastructure IA, passant de modèles axés sur la capacité à des modèles axés sur la sortie. En offrant une capacité IA réservable et opérée localement, l'entreprise fournit aux entreprises, aux développeurs de modèles et aux entreprises natives de l'IA une alternative aux fournisseurs de cloud traditionnels. Cette approche aligne les capacités d'infrastructure avec les engagements de performance et de service spécifiques aux clients, établissant une nouvelle norme pour l'inférence IA à grande échelle.