Blackfuel lanza una nube de inferencia de IA impulsada por AMD en Barcelona
Blackfuel ha lanzado oficialmente su primer despliegue exclusivo de inferencia en Barcelona, aprovechando las GPUs AMD Instinct™ MI355X y el software abierto AMD ROCm™. Esto marca un paso significativo en la misión de la compañía de construir una infraestructura de nube global nativa de inferencia destinada a proporcionar una salida de IA medible y reservable.
Despliegue en Barcelona: Un nuevo modelo para la infraestructura de IA
El despliegue en Barcelona está alojado por Digital Realty y presenta sistemas Dell PowerRack enfriados por líquido equipados con servidores Dell PowerEdge XE9785L alimentados por aceleradores AMD Instinct MI355X. Dell y NTT DATA están brindando apoyo para la implementación e integración. El enfoque de Blackfuel integra computación, capacidad de centro de datos, almacenamiento y software en un sistema unificado, ofreciendo a los clientes un mayor control sobre la ubicación de despliegue, modelos y entornos operativos.
La infraestructura de Blackfuel está diseñada para optimizar la inferencia a través de múltiples arquitecturas de aceleradores y generaciones de hardware. Las GPUs AMD Instinct MI355X, basadas en la arquitectura CDNA 4, incluyen 288 GB de memoria HBM3E y hasta 8 TB/s de ancho de banda de memoria, proporcionando la columna vertebral de hardware para la plataforma.
Grilla de Tokens de IA: Un cambio hacia una infraestructura impulsada por resultados
En el corazón de la estrategia de Blackfuel se encuentra su Grilla de Tokens de IA, una red de clústeres de aceleradores específicos de arquitectura conectados a través de una capa común de software y comercial. Esta plataforma permite a los clientes reservar capacidad de inferencia alineada con requisitos específicos de rendimiento, latencia y ubicación de datos sin gestionar la infraestructura subyacente.
Blackfuel también está introduciendo GPUs Lógicas, unidades de servicio contractual que permiten a los clientes reservar una fracción de la capacidad de servicio de un modelo por una tarifa mensual fija. Este modelo asegura niveles de servicio consistentes mientras permite que el hardware y las configuraciones subyacentes evolucionen.
Software Abierto como Fundación Estratégica
El stack de software de Blackfuel se basa en tecnologías de servicio abierto como AMD ROCm™ y vLLM, SGLang. Al combinar software abierto con herramientas de enrutamiento, asignación y medición propietarias, la compañía busca reducir costos de servicio y aumentar los tokens útiles por megavatio. La plataforma está diseñada para soportar una amplia gama de modelos, incluyendo los de Meta, OpenAI, NVIDIA y Google, entre otros.
El software abierto proporciona flexibilidad para que los desarrolladores y operadores se adapten a modelos y marcos de IA en rápida evolución, asegurando que la infraestructura de Blackfuel se mantenga a prueba de futuro.
Implicaciones para el Ecosistema de IA
El despliegue de Blackfuel en Barcelona destaca un cambio más amplio en la infraestructura de IA de modelos centrados en la capacidad a modelos impulsados por resultados. Al ofrecer capacidad de IA operada localmente y reservable, la empresa proporciona a empresas, desarrolladores de modelos y negocios nativos de IA una alternativa a los proveedores de nube tradicionales. Este enfoque alinea las capacidades de infraestructura con los compromisos de rendimiento y servicio específicos del cliente, estableciendo un nuevo estándar para la inferencia de IA a gran escala.