엔비디아가 공개한 DGX-A100 시스템에 AMD 에픽 프로세서가 탑재되어 주목받고 있다.
GTC 디지털서 발표된 DGX-A100 시스템은 앙페르 아키텍처 기반의 A100 코어 8개가 사용된 '슈퍼 스칼라 컴퓨트 시스템'으로, 앙페르는 PCIe 4.0 인터페이스를 지원한다.
해당 시스템에 AMD 에픽 프로세서가 탑재된 것은 현재 시장에서 PCIe 4.0을 지원하는 유일한 플랫폼이기 때문으로 판단되며, techpowerup에 따르면 각 DGX A100 블록에는 64코어 128스레드 구성의 에픽(EPYC) 7742 프로세서 2개가 탑재된다.
한편, DGX A100 시스템은 8개의 A100 GPU를 통해 5페타플롭스의 AI 성능을 발휘하며, 총 320GB의 HBM2 VRAM은 12.4TB/s의 대역폭을, 각 GPU간 협업을 위해 도입된 6개의 NVSwitch 인터커넥트 패브릭은 양방향 4.8TB/s 대역폭을 제공한다.
엔비디아는 5개의 DGX A100 시스템으로 구성된 단일 랙은 AI 훈련 및 추론 인프라 데이터센터의 전력소비를 20분의 1, 공간을 25분의 1, 비용을 10분의 1로 줄여줄 수 있다고 주장했다.
|
[영상] 엔비디아 젠슨황 APEC 한국 방문 비하인드 스토리, 기승전HBM으로 망친 인터뷰까지 
