블랙퓨엘, 바르셀로나에 AMD 파워의 AI 추론 클라우드 런칭

블랙퓨엘은 AMD Instinct™ MI355X GPU와 AMD ROCm™ 오픈 소프트웨어를 활용한 최초의 추론 전용 배치를 공식적으로 바르셀로나에서 시작했습니다. 이는 측정 가능하고 예약 가능한 AI 출력을 제공하기 위한 회사의 글로벌 추론 네이티브 클라우드 인프라 구축의 중요한 단계입니다.

바르셀로나 배치: AI 인프라를 위한 새로운 모델

바르셀로나 배치는 디지털 리얼티에서 호스팅되며, AMD Instinct MI355X 가속기를 탑재한 Dell PowerEdge XE9785L 서버가 장착된 액체 냉각 Dell PowerRack 시스템을 특징으로 합니다. 배치 및 통합 지원은 Dell과 NTT DATA에서 제공되고 있습니다. 블랙퓨엘의 접근 방식은 컴퓨트, 데이터 센터 용량, 스토리지 및 소프트웨어를 통합된 시스템으로 결합하여 고객이 배치 위치, 모델 및 운영 환경에 대한 더 많은 제어권을 가질 수 있도록 합니다.

블랙퓨엘의 인프라는 여러 가속기 아키텍처와 하드웨어 세대에 걸쳐 추론을 최적화하도록 설계되었습니다. AMD Instinct MI355X GPU는 CDNA 4 아키텍처를 기반으로 하여 288 GB의 HBM3E 메모리와 최대 8 TB/s의 메모리 대역폭을 포함하여 플랫폼의 하드웨어 백본을 제공합니다.

AI 토큰 그리드: 출력 기반 인프라로의 변화

블랙퓨엘 전략의 핵심은 아키텍처 특정 가속기 클러스터의 네트워크인 AI 토큰 그리드입니다. 이 플랫폼은 공통 소프트웨어 및 상업적 레이어를 통해 연결됩니다. 이를 통해 고객은 기초 인프라를 관리하지 않고도 특정 처리량, 지연 및 데이터 위치 요구 사항에 맞춘 추론 용량을 예약할 수 있습니다.

블랙퓨엘은 또한 고객이 모델의 서비스 용량의 일부를 고정 월 요금으로 예약할 수 있는 계약 서비스 단위인 논리적 GPU를 도입하고 있습니다. 이 모델은 일관된 서비스 수준을 보장하면서 기초 하드웨어 및 구성을 발전시킬 수 있게 합니다.

전략적 토대인 오픈 소프트웨어

블랙퓨엘의 소프트웨어 스택은 AMD ROCm™ 및 vLLM, SGLang과 같은 오픈 서비스 기술을 기반으로 합니다. 오픈 소프트웨어와 독점 루팅, 할당 및 계량 도구를 결합함으로써, 회사는 서비스 비용을 낮추고 메가와트당 유용한 토큰 수를 증가시키는 것을 목표로 하고 있습니다. 이 플랫폼은 Meta, OpenAI, NVIDIA, Google 등의 모델을 포함한 다양한 모델을 지원하도록 설계되었습니다.

오픈 소프트웨어는 개발자와 운영자에게 급속하게 진화하는 AI 모델 및 프레임워크에 적응할 수 있는 유연성을 제공하여 블랙퓨엘의 인프라가 미래에도 지속 가능하게 합니다.

AI 생태계에 대한 의미

블랙퓨엘의 바르셀로나 배치는 AI 인프라가 용량 중심에서 출력 중심의 모델로 전환하고 있음을 강조합니다. 지역에서 운영되는 예약 가능한 AI 용량을 제공함으로써, 회사는 기업, 모델 개발자, AI 네이티브 비즈니스에 전통적인 클라우드 제공업체에 대한 대안을 제공합니다. 이 접근 방식은 인프라 기능을 고객 특정 성능 및 서비스 약정에 맞추어 설정하여 대규모 AI 추론의 새로운 기준을 설정합니다.