엔비디아 (NVIDIA)는 올해 하반기 맥스웰 (Maxwell) 아키텍처 기반의 고성능 제품군을 발표할 것으로 알려진 가운데 최근 열린 GTC (GPU Technology Conference) 2014 행사를 통해 자사의 차세대 GPU 로드맵을 발표했으며 그 중심에 있는 파스칼 (Pascal)을 공개했다.
엔비디아가 GTC 2014를 통해 공개한 파스칼 (Pascal)
그동안 공개한 GPU 로드맵에는 볼타 (Volta)로 알려진 차세대 GPU가 등장했고 이 제품은 공유 메모리 기술이나 3D 스택 메모리 탑재 등이 알려졌으나 엔비디아는 새로운 로드맵을 통해 볼타 대신 파스칼이 등장했다.
엔비디아의 소식을 전한 해외 사이트에 따르면 볼타는 여전히 예정되어 있으며 파스칼 이후의 아키텍처가 될 것이라고 한다. 파스칼은 작은 폼팩터를 위한 것이며 볼타는 전반적인 GPU 아키텍처로 활용될 것으로 예상, 2014년은 맥스웰 GPU가 시장을 형성할 것으로 알려졌다.
파스칼 GPU는 엔비디아가 고속 인터페이스로 소개한 NVLink를 지원하는 최초의 GPU이며 최대 1TB/s의 높은 메모리 대역폭을 제공하는 3D 스택 메모리 (3D Stacked Memory), 공유 메모리 (Unified Memory)를 탑재한 것이 특징이다.
최대 1TB/s 대역폭 구현하는 3D 메모리 탑재
3D 메모리는 스택 DRAM으로 기존 2D 방식이 아닌 3D 방식으로 메모리를 적층하는 기술이다. 엔비디아가 볼타를 통해 소개한 것처럼 하나의 다이에 GPU와 3D 메모리를 통합한 형태로 알려졌다.
이 방식을 통해 GPU는 기존보다 더 높은 메모리 대역폭과 저장 용량, 4배의 전력 효율을 구현하면서 입출력 향상 및 효율을 높일 수 있게 된다. 또 이와 같은 구성을 통해 GPU는 더 컴팩트한 모듈 형식의 구성이 가능해진다.
3D 메모리로 구성 가능한 대역폭은 엔비디아가 현재 플래그십 싱글 GPU인 지포스 GTX TITAN Black이 336GB/s, 맥스웰은 500GB/s의 대역폭을 제공할 것으로 예상되는데 최대 1TB/s의 메모리 대역폭을 구현할 수 있을 것으로 예상된다.
CPU와 GPU 접근성 향상한 공유 메모리 (Unified Memory)
공유 메모리 (Unified Memory) 기술은 GPU와 CPU 사이에 다양한 혜택을 제공할 것으로 예상된다.
통합 메모리 기능을 이용하면 프로그래머는 CPU와 GPU 메모리를 단일 메모리 블록으로 활용할 수 있으며, 프로그래머는 데이터가 CPU나 GPU의 메모리 중 어디에 있든지 구애받지 않고 데이터를 활용할 수 있게 된다. 즉 CPU는 GPU 메모리, GPU는 CPU 메모리에 각각 빠르고 쉬운 접근이 가능해져 개발의 용이성과 자원을 공유해 성능과 효율을 증대시킬 수 있다.
향후 GPU 가속 프로그래밍은 빨라진 데이터 이동속도와 통합 메모리(Unified Memory) 기능으로 인해 더욱 간단해질 전망이다.
5배에서 최고 12배 빠른 데이터 공유, 고속 인터페이스 NVLink
현재의 GPU들은 PCI Express (PCIe) 인터페이스를 통해 x86 기반 CPU와 연결되는데 이는 CPU 메모리 시스템에 대한 GPU의 접근 기능을 제한하고, 일반적인 CPU 메모리 시스템에 비해 4~5배 정도 속도가 느린 문제가 있다.
또한 PCIe는 x86 CPU보다 대역폭이 더 넓은 IBM POWER CPU와 GPU 사이에는 더 심각한 병목현상을 초래한다. 반면 NVLink 인터페이스는 일반적인 CPU 메모리 시스템의 대역폭에 부합하는 속도를 낼 수 있어 GPU가 최대한의 대역폭으로 CPU 메모리에 접근할 수 있게 해준다.
이러한 고대역폭(high-bandwidth) 인터커넥트는 가속 소프트웨어 애플리케이션의 성능을 대폭 향상시켜준다. 가속 애플리케이션은 메모리 시스템간의 차이 (GPU는 빠르지만 메모리가 작고, CPU는 느리지만 메모리 용량이 크다) 때문에 데이터를 네트워크나 디스크 스토리지에서 CPU 메모리로 옮기고, 크런칭되기 전에 GPU메모리에 복사해 두는 것이 일반적이다. 하지만 NVLink를 사용하면, CPU와 GPU 메모리간에 더욱 빠른 속도로 데이터를 이동시킬 수 있어 GPU 가속 애플리케이션을 더욱 빠르게 실행할 수 있다.
NVIDIA GPU 엔지니어링 부문 수석 부사장인 브라이언 켈러허(Brian Kelleher)는 “이번에 발표된 NVLink 기술은 CPU와 GPU 간의 데이터 이동속도를 크게 끌어올려 GPU의 데이터 대기시간을 최소화하는 방식으로 GPU 성능 활용을 극대화할 수 있다.”고 밝혔다.
엔비디아가 소개한 NVLink 기술은 GPU와 CPU가 5배에서 최고 12배까지 빠르게 데이터를 공유할 수 있는 새로운 고속 인터커넥트로 현존 가장 강력한 시스템보다 50-100배 빠른 차세대 엑사스케일 슈퍼컴퓨터 구성도 가능할 것으로 예상된다. 초당 80GB/s 이상의 전송을 지원해 16GB/s를 제공하는 기존의 한계를 극복할 수 있을 것으로 알려졌다.
향후 NVIDIA에서 선보일 GPU는 PCIe를 계속 지원할 예정이지만, NVLink가 지원되는 CPU와 GPU를 연결하거나 여러개의 GPU사이를 직접 연결시켜주는 고대역폭 연결에도 NVLink가 사용될 전망이다. NVLink는 매우 넓은 대역폭을 갖고 있으면서도, 전송 비트당 전력 효율성이 PCIe보다 훨씬 뛰어난 장점이 있다. IBM과 공동 개발한 NVLink는 IBM POWER CPU의 차기 버전에도 적용될 예정이다.
브래들리 맥크레디(Bradley McCredie) IBM부사장은 “개발자들은 NVLink로 빨라진 CPU-GPU시스템을 활용해 고성능, 데이터 분석 애플리케이션들을 쉽게 변경할 수 있다.”며 “NVLink는 IBM의 OpenPOWER 생태계 발전에 크게 기여할 것으로 기대된다.”고 전했다.
파스칼 모듈
현재 CPU와 GPU 사이의 데이터 전송 속도는 꾸준히 향상되고 있어 점점 더 높은 대역폭과 빠른 전송 속도를 요구하며 싱글 또는 멀티 GPU가 요구하는 대역폭을 충족하지 못하면 병목현상을 발생시킨다.
엔비디아가 소개한 차세대 아키텍처 파스칼은 3D 메모리와 고속 인터페이스 NVLink, 공유 메모리 기술을 이용해 이와 같은 병목현상을 해결해 차후 등장할 고성능 GPU를 뒷받침하며 성능과 효율을 높일 것으로 예상된다.
엔비디아는 차세대 아키텍처를 적용하는 파스칼 GPU를 모듈 형태로 만들어 NVLink 인터페이스를 이용해 고성능을 구현할 수 있으며 현존하는 PCIe 기반 그래픽카드와 비교해 1/3에 해당하는 크기를 제공할 예정이다.
한편 엔비디아가 소개한 차세대 아키텍처 파스칼 GPU는 2016년 출시 예정인 것으로 알려졌다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
