슈퍼마이크로는 수냉식 엔비디아 HGX H100 랙 스케일 솔루션들을 통해 자사의 데이터센터 서비스를 지속적으로 확대하고 있다. 슈퍼마이크로의 첨단 수냉 기술은 완전한 설비를 위한 리드 타임을 줄여주고, 데이터 센터의 PUE를 크게 줄이면서 운영 비용을 낮춥니다. 공냉식 데이터센터에 비해 Supermicro 액체 냉각 솔루션을 사용할 때 데이터 센터의 전력 절감 효과는 40%로 추정된다. 또한 기존 데이터 센터 대비 Direct Cooling 비용을 최대 86%까지 절감할 수 있다
슈퍼마이크로 사장 겸 CEO인 찰스 리앙은 "슈퍼마이크로는 전 세계 AI 워크로드와 최신 데이터센터의 까다로운 요구를 지원하며 업계를 선도하고 있다. 당사의 액체 냉각 기술을 사용하는 혁신적인 GPU 서버는 데이터 센터의 전력 요구 사항을 크게 낮추고. 빠르게 진화하는 대규모 AI 모델을 구현하는 데 필요한 전력량을 고려하여 TCO 및 총 환경 비용(TCE)을 최적화한다는 점에서 데이터 센터 운영자에게 매우 중요하다” 고 말했다.
최고 사양의 수냉식 GPU 서버에는 듀얼 Intel 또는 AMD CPU와 8개 또는 4개의 상호 연결된 NVIDIA HGX H100 Tensor Core GPU가 포함되어 있다. 액체 냉각을 사용하면 데이터 센터의 전력 소비가 최대 40%까지 감소하여 운영 비용이 절감된다. 또한 두 시스템 모두 이전 세대의 NVIDIA HGX GPU 장착 시스템을 크게 능가하여 보다 빠른 GPU-GPU 상호 연결 속도와 PCIe 5.0기반 네트워킹 및 스토리지를 갖추고 있다
<슈퍼마이크로 Rack-scale Liquid Cooling AI Solution>
현재 최대 규모의 AI 모델을 위한 슈퍼마이크로의 최신 엔비디아 H100 SXM5 텐서 코어 GPU 서버는 다음과 같다.
SYS-821GE-TNHR – (듀얼 4세대 Intel Xeon Scalable CPU, NVIDIA HGX H100 8 GPU, 8U)
https://www.supermicro.com/en/products/system/GPU/8U/SYS-821GE-TNHR
AS -8125GS-TNHR – (듀얼 4세대 AMD EPYC CPU, NVIDIA HGX H100 8 GPU, 8U)
https://www.supermicro.com/en/products/system/GPU/8U/AS-8125GS-TNHR
또한 4개의 엔비디아 NVIDIA H100 SXM5 텐서 코어 GPU를 탑재한 시스템을 포함해 AI 트레이닝, 방대한 양의 AI 인퍼런싱 또는 HPC 워크로드를 위해 커스터마이징이 가능한 다양한 GPU 서버는 다음과 같다.
SYS-421GU-TNXR - (듀얼 4세대 Intel Xeon Scalable CPU, NVIDIA HGX H100 4 GPU, 4U)
https://www.supermicro.com/en/products/system/GPU/4U/SYS-421GU-TNXR
SYS-521GU-TNXR - (듀얼 4세대 Intel Xeon Scalable CPU, NVIDIA HGX H100 4 GPU, 5U)
https://www.supermicro.com/en/products/system/GPU/4U/SYS-521GU-TNXR
슈퍼마이크로의 수냉식 랙단위 솔루션에는 최신 CPU TDP 및 GPU에 최대 80kW의 D2C(Direct-to-Chip) 냉각을 제공하는 냉각수 분배 장치(CDU)가 포함되어 있다. 이중화 및 핫스왑이 가능한 전원 공급 장치 및 액체 냉각 펌프는 고장 시에도 서버가 지속적으로 냉각되도록 하고, 누출 방지 커넥터는 모든 시스템에 대해 중단 없는 액체 냉각을 제공한다
슈퍼마이크로 액체 냉각 시스템에 대한 자세한 내용은 다음을 참조한다.
https://www.supermicro.com/en/solutions/liquid-cooling
슈퍼마이크로 대형 AI 솔루션 개요
https://www.supermicro.com/solutions/Solution-Brief_Rack_Scale_AI.pdf
슈퍼마이크로 한국총판 슈퍼솔루션은 “랙 스케일 수냉식 설계 및 통합은 시스템 공급업체에게 중요한 서비스가 되었다. AI와 HPC가 조직 내에서 점점 더 중요한 기술이 됨에 따라 최대 성능을 위해 서버 수준에서 전체 데이터 센터에 이르는 구성을 최적화하고 구성해야 한다. 고객들과 긴밀히 협력하여 요구사항들을 이해하여 국내 기업들이 혁신을 도입할 수 있도록 최선을 다하겠다” 고 전했다.
[뉴스] 슈퍼마이크로의 AI 서버 중국 밀수 사건 연루, 엔비디아 직원 대만 당국에 구금 
