엔비디아가 엔비디아 GPU 테크놀로지 컨퍼런스(GPU Technology Conference, GTC) 2018을 통해 볼타 아키텍처 기반의 GPU 컴퓨팅 관련 내용들을 발표했다.
우선, 엔비디아는 GTC에 앞서 GDC서 발표한 실시간 레이트레이싱 기술인 엔비디아 RTX 지원 쿼드로 GV100(NVIDIA Quadro GV100) GPU를 발표했다.
지난해 공개된 볼타 아키텍처 기반 쿼드로 GV100 GPU는 32GB 기본 메모리에 64GB까지 확장 가능하며, 엔비디아 NV링크(NVIDIA NVLink) 인터커넥트 기술로 여러 대의 쿼드로 GPU를 연결해 어플리케이션 연산 성능을 끌어올릴 수 있다.
엔비디아는 볼타 GPU 아키텍처 기반 쿼드로 GV100이 7.4 테라플롭의 배정밀도 연산 능력, 14.8테라플롭의 단정밀도 연산 능력, 118.5테라플롭의 딥 러닝 성능을 갖추고, 엔비디아 RTX에 탑재된 엔비디아 옵틱스(NVIDIA OptiX) AI-디노이저는 노이즈 없는 실시간 렌더링을 CPU 대비 100배 가까운 성능으로 구현할 수 있음을 전했다.
엔비디아 옵틱스 애플리케이션 프로그래밍 인터페이스, 마이크로소프트의 새로운 DirectX Raytracing API는 물론, 향후로는 개방형 크로스플랫폼 그래픽 표준인 벌칸(Vulkan)에서도 엔비디아 RTX 기술을 이용할 수 있으며, 세 가지 API 모두 개발자들이 다수의 플랫폼을 지원할 수 있도록 하는 공통 쉐이더 프로그래밍 모델도 갖췄다.
쿼드로 GV100은 현재 엔비디아 공식 온라인 홈페이지에서 판매 중으로, 올해 4월부터 주요 워크스테이션 제조사와 북공인 유통 채널 파트너들을 통해 만나 볼 수 있다.
엔비디아는 자사의 딥 러닝 컴퓨팅 플랫폼이 딥 러닝 워크로드 면에서 6개월 만에 이전 세대 대비 10배의 성능 개선을 이뤄냈다고 발표하고, 엔비디아 플랫폼의 핵심 개선 사항으로 엔비디아 테슬라 V100(NVIDIA Tesla V100)의 메모리 2배 확충과 GPU 인터커넥트 패브릭인 엔비디아 NV스위치(NVIDIA NVSwitch), 소프트웨어 스택의 업데이트 및 최적화 소식을 함께 발표했다.
엔비디아는 딥 러닝 컴퓨팅 분야에 2페타플롭의 연산 능력을 제공할 수 있는 단일 서버인 엔비디아 DGX-2(NVIDIA DGX-2)출시를 발표했는데, 해당 모델의 딥 러닝 처리 성능은 데이터센터에서 15개의 랙을 차지하는 서버 300대의 성능에 준하지만 크기는 60배 가량 작고 전력 효율성은 18배 가량 우수함을 자랑했다.
딥 러닝 연구 및 연산의 한계에 도전하는 데이터 과학자를 위해 개발된 DGX-2는 시스템 내 GPU 16개 모두 통합된 메모리 공간을 공유할 수 있도록 하는 NV스위치가 적용된 최초의 시스템으로, 뉴럴 네트워크 기반의 최첨단 기계 번역 모델인 FAIRSeq의 트레이닝에 이틀이 소요되지 않았으며, 이는 DGX-1과 비교했을 때 성능이 10배 가량 개선된 성능이라고 전했다.
PCIe 스위치 대비 5배로 높은 대역폭을 구현한 NV스위치는 개발자들이 더 많은 GPU를 하이퍼커넥트 방식으로 연결해 시스템을 구축하고, 이를 통해 개발자들이 시스템 한계를 극복하고 더 많은 데이터셋을 실행해, 뉴럴 네트워크의 병렬 트레이닝 모델링처럼 복잡한 대규모 워크로드의 실행을 지원한다.
NV스위치는 엔비디아가 개발한 첫 고속 인터커넥트 기술인 엔비디아 NV링크(NVIDIA NVLink)를 통해 이뤄낸 기술로, 시스템 디자이너는 NV스위치를 통해 NV링크 기반 GPU의 유연한 토폴로지 연결이 가능하며, 앞서 발표된 NV스위치를 활용한 DGX-2 시스템은 최대 16개의 테슬라 V100 GPU가 초당 2.4테라바이트의 속도로 동시 커뮤니케이션 할 수 있다.
1개의 NVSwitch는 18개의 NVLink를 지원하며, 1개의 포트에선 50GB/s의 대역폭을 커버한다.
테슬라 V100 GPU는 가장 메모리 집약적인 딥 러닝 및 고성능 컴퓨팅 워크로드를 처리할 수 있도록 메모리가 2배 확충됐다. 이를 통해 메모리 제약이 심한 HPC 애플리케이션의 성능을 이전의 16GB 버전 대비 최대 50% 가량 향상시킬 수 있다.
테슬라 V100 32GB GPU는 전체 엔비디아 DGX 시스템 포트폴리오에 즉시 적용되며, 주요 컴퓨터 제조업체들은 새로운 테슬라 V100 32GB를 적용한 시스템을 2분기 내 출시할 예정이다.
엔비디아는 딥 러닝 및 HPC 소프트웨어 스택 업데이트 또한 발표했다.
이번에 공개되는 업데이트에는 새로운 버전의 엔비디아 CUDA(NVIDIA CUDA), 텐서RT(TensorRT), NCCL, cuDNN이 포함되며, 새로운 로보틱스 아이작(Isaac) 소프트웨어 개발 키트도 포함되어 있다.
엔비디아는 자사의 텐서RT(TensorRT) 추론 소프트웨어의 신규 버전을 선보이며, 구글의 인기 프레임워크인 텐서플로(TensorFlow)에 텐서RT가 통합된다고 발표했다.
엔비디아는 다양한 종류의 애플리케이션에서 딥 러닝 추론을 가속화할 수 있는 텐서RT 4(TensorRT 4) 소프트웨어를 공개했다. 텐서RT는 상당히 정확한 수준으로 INT8 및 FP16 네트워크 처리를 진행해 데이터센터의 비용을 최대 70% 절감할 수 있다.
컴퓨터 비전, 뉴럴 네트워크 기반 기계 번역, 자동 음성 인식, 음성 합성 및 추천 시스템 등 일반적인 응용 분야에서 CPU 대비 최대 190배 빠른 딥 러닝 추론 능력을 제공하며, 엔비디아와 구글의 엔지니어들은 텐서RT를 텐서플로 1.7에 통합, GPU에서 딥 러닝 추론 애플리케이션을 보다 편리하게 구동하도록 했다.
엔비디아는 음성 인식 프레임워크인 칼디가 GPU 상에서 더욱 빠른 성능을 제공할 수 있도록 최적화를 실시하는 한편, 멀티클라우드 GPU 클러스터에서 엔터프라이즈 추론 배포를 촉진하기 위해 쿠버네티스(Kubernetes)에 대한 GPU 가속 지원도 발표했다.
엔비디아는 시뮬레이션을 통해 보다 안전하게 자율주행차량을 테스트할 수 있는 클라우드 기반 시스템인 엔비디아 드라이브 컨스텔레이션(NVIDIA DRIVE Constellation)도 발표했다.
첫 번째 서버에서는 엔비디아 드라이브 심(NVIDIA DRIVE Sim) 소프트웨어를 실행해 카메라, 라이다 및 레이더와 같은 자율주행차의 센서를 시뮬레이션, 두 번째 서버의 엔비디아 드라이브 페가수스(NVIDIA DRIVE Pegasus) AI 차량용 컴퓨터는 실제 도로에서 주행 중인 차량의 센서에서 온 것처럼 자율주행차 소프트웨어 스택 일체를 실행하고 시뮬레이션 된 데이터를 처리한다.
각각 생성된 시뮬레이션 센서 데이터 스트림은 드라이브 페가수스로 전달되어 처리되며, 드라이브 페가수스가 내리는 주행 명령은 시뮬레이터로 다시 전달되어 디지털 피드백 루프가 완성된다. 이러한 '순환구조의 하드웨어(hardware-in-the-loop)' 사이클은 초당 30회 가량 발생하며, 페가수스에서 실행되는 알고리즘 및 소프트웨어가 시뮬레이션 차량을 올바르게 작동시키는지 검증하는데 사용된다.
드라이브 컨스텔레이션은 2018년 3분기에 초기 파트너들에게 공개될 예정이다.
[영상] 메모리 때문에 모든게 엉망! 지포스 RTX 5090 단종 및, 5080 24GB 출시 루머 총정리 
