엔비디아(CEO 젠슨 황)가 세계에서 20번째로 빠른 슈퍼컴퓨터 DGX 슈퍼POD(DGX SuperPOD)의 2세대 모델을 공개했다. 엔비디아 DGX A100 시스템과 멜라녹스(Mellanox) 네트워크 패브릭을 기반으로 불과 3주만에 구축된 DGX 슈퍼POD는 몇 주가 소요되는 복잡한 언어 이해 모델의 처리시간을 단 한시간 내로 단축시킨다.
엔비디아는 지난해 여러 DGX 시스템을 결합한 DGX 슈퍼POD를 처음 선보였다. DGX 슈퍼POD는 일반적으로 슈퍼컴퓨터에 들어가는 비용과 에너지 사용량을 훨씬 줄이면서도 획기적인 성능을 제공하는 것이 특징이다.
멜라녹스 기술과 결합된 엔비디아 솔루션은 가장 복잡한 문제를 병렬로 처리하고 최대한 빠르게 문제를 해결할 수 있는 아키텍처로 데이터센터를 재정의하고 있다. DGX A100에는 시스템 당 최대 9개의 인터페이스를 갖는 200Gbps HDR 인피니밴드(InfiniBand)를 갖춘 새로운 멜라녹스 ConnectX-6 VPI 네트워크 어댑터가 제공된다.
엔비디아는 시스템 간 상호연결성을 높이고 획기적인 성능을 제공하기 위해 멜라녹스 스위치를 활용한다. 또한, 엔비디아 DGX 슈퍼POD와 DGX A100을 통해 사용량 기반 지불방식(pay-as-you-grow) 모델로 쉽게 확장이 가능하면서도 운영에 미치는 영향을 최소화하는 AI 네트워크 패브릭을 설계했다.
엔비디아는 DGX 슈퍼POD를 확장가능한 20개의 DGX A100 시스템 그룹으로 모듈화 했다. 각각은 멜라녹스 HDR 인피니밴드를 사용하는 2티어 팻트리(Fat-Tree) 스위치 네트워크 토폴로지로 지원되어, 초과가입(Oversubscription) 없이 완전한 바이섹션 대역폭을 제공한다. 또한, 세 번째 스위칭 티어를 추가하면 드래곤플라이+(DragonFly+) 또는 팻트리 토폴로지를 사용해 수천 대의 시스템으로 확장 가능하다. 이를 통해 기업들은 시스템 모듈 추가 관련 비용은 줄이면서 인프라 확장에 유연하게 대처할 수 있다.
DGX 새턴V(SATURNV)는 연구개발(R&D)부터 자율주행차 시스템 개발, 게이밍, 그리고 로보틱스에 이르는 엔비디아의 가장 중요한 작업들을 지원한다. DGX 새턴V는 비즈니스 요구에 따라 계속해서 확장이 가능하여, 새로운 슈퍼POD 설계를 위한 완벽한 성능 시험장 역할을 하고 있다.
약 700페타플롭(PF)의 AI 성능을 제공하는 2세대 DGX 슈퍼POD의 주요 특징은 140개의 DGX A100 시스템, 1,120개의 엔비디아 A100 GPU, 170개의 멜라녹스 퀀텀(Quantum) 200G 인피니밴드 스위치, 15km의 광 케이블, 4PB 고성능 스토리지다.
엔비디아는 2세대 DGX 슈퍼POD의 스토리지 인프라를 위해 DDN과 협력했다. DDN은 DGX POD 파트너사 중 하나로 AI 인프라 제공에 필요한 성능과 확장성 향상을 지원한다. DGX 슈퍼POD는 DDN의 기술을 사용해 엔비디아의 최신 시스템에서 발생할 수 있는 가장 까다로운 워크로드를 지원한다.
|
[영상] AI 수요가 늘면 왜 DDR5 값이 오를까?, [메모리 가격 폭등 1부] 
