Blackfuel Lança Nuvem de Inferência de IA com Poder da AMD em Barcelona
A Blackfuel lançou oficialmente sua primeira implementação apenas de inferência em Barcelona, aproveitando GPUs AMD Instinct™ MI355X e software aberto AMD ROCm™. Isso marca um passo significativo na missão da empresa de construir uma infraestrutura de nuvem global, nativa de inferência, com o objetivo de fornecer saída de IA mensurável e reservável.
Implementação em Barcelona: Um Novo Modelo para Infraestrutura de IA
A implementação em Barcelona é hospedada pela Digital Realty e apresenta sistemas Dell PowerRack refrigerados a líquido equipados com servidores Dell PowerEdge XE9785L que são impulsionados por aceleradores AMD Instinct MI355X. O suporte de implementação e integração está sendo fornecido pela Dell e NTT DATA. A abordagem da Blackfuel integra computação, capacidade de data center, armazenamento e software em um sistema unificado, oferecendo aos clientes maior controle sobre a localização das implementações, modelos e ambientes operacionais.
A infraestrutura da Blackfuel é projetada para otimizar a inferência em várias arquiteturas de aceleradores e gerações de hardware. As GPUs AMD Instinct MI355X, baseadas na arquitetura CDNA 4, incluem 288 GB de memória HBM3E e até 8 TB/s de largura de banda de memória, proporcionando a espinha dorsal de hardware para a plataforma.
Grade de Token de IA: Uma Mudança para uma Infraestrutura Baseada em Saída
No cerne da estratégia da Blackfuel está sua Grade de Token de IA, uma rede de clusters de aceleradores específicos de arquitetura conectados por meio de uma camada comum de software e comercial. Esta plataforma permite que os clientes reservem capacidade de inferência alinhada a requisitos específicos de através, latência e localização de dados, sem a necessidade de gerenciar a infraestrutura subjacente.
A Blackfuel também está introduzindo GPUs Lógicas, unidades de serviço contratuais que permitem que os clientes reservem frações da capacidade de serviço de um modelo por uma taxa mensal fixa. Este modelo assegura níveis de serviço consistentes enquanto permite que o hardware subjacente e as configurações evoluam.
Software Aberto como uma Base Estratégica
O stack de software da Blackfuel é baseado no AMD ROCm™ e em tecnologias de serviço abertas como vLLM e SGLang. Ao combinar software aberto com ferramentas de roteamento, alocação e medição proprietárias, a empresa visa reduzir os custos de serviço e aumentar os tokens úteis por megawatt. A plataforma é projetada para suportar uma ampla gama de modelos, incluindo os da Meta, OpenAI, NVIDIA e Google, entre outros.
O software aberto oferece flexibilidade para desenvolvedores e operadores se adaptarem a modelos e estruturas de IA em rápida evolução, garantindo que a infraestrutura da Blackfuel permaneça à prova de futuro.
Implicações para o Ecossistema de IA
A implementação da Blackfuel em Barcelona destaca uma mudança mais ampla na infraestrutura de IA de modelos focados em capacidade para modelos baseados em saída. Ao oferecer capacidade de IA operada localmente e reservável, a empresa fornece a empresas, desenvolvedores de modelos e negócios nativos de IA uma alternativa aos provedores de nuvem tradicionais. Esta abordagem alinha as capacidades da infraestrutura com compromissos específicos de desempenho e serviço dos clientes, estabelecendo um novo padrão para inferência de IA em larga escala.