엔비디아가 엔비디아 GPU 클라우드(NVIDIA GPU Cloud, 이하 NGC)를 발표했다. NGC는 개발자들이 그들의 PC, 엔비디아 DGX 시스템, 클라우드를 통해 인공지능의 혁신적인 능력을 활용할 수 있는 종합적인 소프트웨어 스위트에 편리하게 접근할 수 있는 클라우드 기반 플랫폼이다.
미국 캘리포니아 산호세 맥에너리 컨벤션센터에서 개최되고 있는 제8회 엔비디아 엔비디아 GPU 테크놀로지 컨퍼런스(GPU Technology Conference)에서 엔비디아 설립자 겸 CEO인 젠슨 황(Jensen Huang)은 NGC를 통해 개발자들이 최적화된 최신 딥 러닝 프레임워크 및 GPU 컴퓨팅 리소스에 보다 편리하게 접근할 수 있을 것이라고 말했다.
엔비디아의 부사장 겸 제너럴 매니저인 짐 맥휴(Jim McHugh)는 “엔비디아는 인공지능 개발자들의 참여를 유도해 더욱 스마트한 세상을 만들어나갈 수 있는 클라우드 플랫폼을 개발하고 있다”며 “어디에 있든지 클라우드에 있는 엔비디아의 최신 기술을 이용해 최상의 결과물을 도출할 수 있다. 이는 언제, 어디서든 필요하면 활용할 수 있는 가속 컴퓨팅이다”라고 말했다.
개발자 및 데이터 과학자들이 딥 러닝을 활용할때 두 가지 문제를 직면하게 된다. 하나는 딥 러닝 프레임워크, 라이브러리, 운영체제 및 드라이버 등 필수 소프트웨어 요소를 하나의 스택에 담아야 한다는 것이고, 또 하나는 뉴럴 네트워크를 트레이닝하기 위해서는 최신 GPU 컴퓨팅 리소스에 접근해야 한다는 것이다.
첫 번째 문제의 경우, 엔비디아는 올해 초 엔비디아 DGX-1™ (NVIDIA DGX-1™) 인공지능 슈퍼컴퓨터의 핵심 소프트웨어 요소를 통합 패키지 형태로 모아 이 문제를 해결했다. NGC 소프트웨어 스택으로 불리는 해당 패키지는 NGC의 일부로 보급이 확대될 예정이며 최대의 성능을 위해 업데이트 및 최적화가 지속적으로 이루어질 예정이다.
하드웨어 문제를 해결하기 위해, NGC는 개발자들에게 타이탄 X (TITAN X) 또는 지포스® GTX 1080 Ti (GeForce® GTX 1080 Ti)가 탑재된 PC, DGX 시스템 또는 클라우드 상에서 NGC 소프트웨어 스택을 실행할 수 있는 유연성을 제공할 계획이다.
NGC는 개발자들이 딥 러닝 트레이닝, 실험 및 배포를 보다 편리하게 실행할 수 있도록 지원해 딥 러닝 개발을 가속화하고 간소화한다는 방침이다. 개발자들은 첨단 뉴럴 네트워크의 설계를 편리하게 진행할 수 있고, 데이터 처리 규모 확대 및 빠른 반복 수행으로 시장 출시도 더욱 빠르게 추진할 수 있다.
NGC가 제공하게 될 혜택은 다음과 같다.
• 목적에 충실하게 구축된 서비스: 세계에서 가장 빠른 GPU 기반의 딥 러닝을 위해 설계
• 최적화된 통합형 서비스: NGC 소프트웨어 스택은 카페(Caffe), 카페2(Caffe2), CNTK, MXNet, 텐서플로우(TensorFlow), 테아노(Theano) 및 토치(Torch) 프레임워크는 물론, 엔비디아 DIGITS™ GPU 트레이닝 시스템, 엔비디아 딥 러닝 SDK(cuDNN 및 NCCL), 엔비디아-도커(nvidia-docker), GPU 드라이버 및 신속한 딥 뉴럴 네트워크 설계를 위한 엔비디아 CUDA® 등 다양한 소프트웨어를 제공할 예정이다.
• 편의성: 엔비디아 계정 하나로, NGC 사용자들은 간단한 애플리케이션을 통해 PC, DGX 시스템 또는 NGC 등 모든 종류의 시스템에서 딥 러닝 워크플로우 프로젝트를 수행할 수 있다.
• 다목적성: 어디서든 실행될 수 있도록 개발되어, GPU가 1개뿐인 PC에서도 실행할 수 있고, DGX 시스템이나 클라우드를 통해 필요에 따라 더 많은 연산 리소스를 추가할 수도 있다. 데이터 가져오기, 작업 구성 설정하기, 프레임워크 선택하기 및 실행하기 등을 수행할 수 있다. 결과물을 텐서RT™ (TensorRT™)로 로딩해 추론 작업을 진행할 수도 있다.
NGC를 통해 개발자들은 프로토타입부터 배포 단계에 이르기까지 모델 실행을 편리하게 진행할 수 있는 다목적 플랫폼을 이용해 크기 또는 유형에 관계 없이 다양한 모델을 개발할 수 있다. 연산 리소스를 늘리거나 줄이는 작업도 가능하며, 필요한 만큼만 비용을 지불하면 된다.
[영상] 누구나 쉽게 이해하는 엔비디아 블랙웰 B200/GB200/GB200 NVL72,(PC조립 한번이라도 해보았다면) 
