AI/ML, 클라우드, 스토리지 및 5G/엣지를 위한 토탈 IT 솔루션의 글로벌 리더 슈퍼마이크로컴퓨터(Super Micro Computer, Inc.(SMCI), 이하 슈퍼마이크로)가 최신 AMD 인스팅트(Instinct) MI350 시리즈 GPU를 기반 AI 솔루션을 공개했다.
새롭게 발표된 슈퍼마이크로 H14세대 GPU 최적화 솔루션은 수냉식과 공냉식 냉각 옵션 모두 지원하며, 탁월한 성능과 최대 확장성, 그리고 효율성을 제공하도록 설계됐다. 해당 서버는 AMD 인스팅트 MI350 시리즈 GPU와 듀얼 AMD EPYC 9005 시리즈 CPU를 함께 탑재해, 대규모 환경에서도 높은 성능을 유지하면서 총소유비용(TCO) 절감을 추구하는 기업에 이상적이다.
슈퍼마이크로의 H14 세대 데이터센터 솔루션은 AI, HPC, 클라우드, 엔터프라이즈 워크로드 전반에 걸쳐 탁월한 성능과 유연성을 제공한다. 슈퍼마이크로의 검증된 빌딩 블록 아키텍처를 기반으로 설계되어, 엔터프라이즈 고객이 워크로드를 효율적으로 업그레이드하고 확장할 수 있도록 지원한다. 최신 AMD EPYC CPU와 AMD Instinct GPU를 모두 탑재한 신규 서버는 AI 기능을 갖춘 강력한 서버 제품군을 구성하며, 슈퍼마이크로의 DCBBS을 통해 컨설팅부터 현장 구축, 사후 지원까지 전 과정에 걸쳐 고객의 성공을 돕는다.
AMD 인스팅트 MI350 시리즈 GPU 기반 슈퍼마이크로 AI 솔루션
슈퍼마이크로는 검증된 수냉식 및 공냉식 고성능 패브릭 8GPU 시스템을 확장하고 있으며, 업계 표준 개방형 멀티 아키텍처인 OCP 가속기 모듈(OAM)을 활용해 최신 AMD 인스팅트 MI350 시리즈 GPU를 지원하고 있다. AMD 인스팅트 MI355X GPU를 탑재한 4U 수냉식 시스템은 슈퍼마이크로가 새롭게 향상시킨 직접 수냉식 냉각(DLC) 아키텍처를 채택해 고집적도 환경에 적합하다. 이 DLC 아키텍처는 다양한 서버 구성 요소의 열을 효과적으로 제어하며, 전력 소비를 최대 40%까지 절감할 수 있다. 또한 이는 랙당 성능을 극대화하고, 대규모 냉각 인프라 환경을 지원하는 데 기여한다. 고객은 고집적도 랙 스케일 구축을 위한 4U 수냉식 옵션과 공냉식 환경에 적합한 8U 옵션 중 선택할 수 있다.
슈퍼마이크로의 이 가속화 GPU 서버는 보다 전력 효율적인 AI 추론을 지원하기 위해 컴퓨팅 처리량, 메모리 대역폭 활용도, 에너지 효율성을 극대화하도록 설계됐다. AMD 인스팅트 MI350 시리즈를 탑재함으로써 GPU당 288GB의 HBM3e를 제공하며, 이는 기존 AMD 인스팅트 가속기보다 메모리 용량이 1.5배 증가한 수치다. 또한, 대역폭은 8TB/s, FP16/FP8 기준 페타플롭스 성능은 AMD 인스팅트 MI325X 대비 1.8배 향상되었다. 이를 통해 고객은 AI 워크로드에서 더 많은 데이터를 더 빠르게 처리할 수 있다.
이번에 발표된 GPU 솔루션은 클라우드 서비스 공급업체와 엔터프라이즈 고객이 대규모 AI를 안정적으로 구동할 수 있도록 설계됐다. 4세대 AMD CDNA 아키텍처를 기반으로 구축된 AMD 인스팅트 MI350 시리즈는 AI 학습 및 추론부터 복잡한 과학 시뮬레이션까지 다양한 워크로드에 대해 뛰어난 성능과 에너지 효율성을 제공하며, FP6 및 FP4와 같은 새로운 데이터 유형을 통해 대규모 AI 모델 처리에 필요한 강력한 기능을 지원한다.
AMD 인스팅트 MI350 시리즈 GPU를 탑재한 슈퍼마이크로 서버에 대한 자세한 내용은 홈페이지에서 확인 가능하다.
[영상] AI 수요가 늘면 왜 DDR5 값이 오를까?, [메모리 가격 폭등 1부] 
