엔비디아-마이크로소프트, 업계 표준 하이퍼스케일 GPU 가속기 출시:: 보드나라

AI 컴퓨팅 분야의 세계적인 선도기업 엔비디아가 마이크로소프트와 함께 인공지능(AI) 클라우드 컴퓨팅을 구동하는 하이퍼스케일 GPU 가속기인 HGX-1을 공개했다.

새로운 HGX-1 하이퍼스케일 GPU 가속기는 마이크로소프트의 프로젝트 올림푸스(Project Olympus)를 따라 오픈소스 디자인으로 공개되었으며, 하이퍼스케일 데이터센터에 빠르고 유연한 AI 경로를 제공한다.

<엔비디아와 마이크로소프트가 발표한 HGX-1 하이퍼스케일 GPU 가속기>

20여 년 전에 도입된 ATX(Advanced Technology eXtended)가 PC 마더보드에 규격을 제시하였듯이, HGX-1은 클라우드 기반 AI 워크로드에 신속하고 효율적으로 채택 가능한 업계 표준을 수립함으로써 급증하는 시장 수요를 충족시킬 전망이다.

HGX-1 아키텍처는 자율 주행, 개인 헬스케어, 슈퍼 휴먼 음성인식, 데이터 및 비디오 애널리틱스, 분자 시뮬레이션 등 다양한 분야에서 폭발적으로 증가하는 클라우드 기반 AI 컴퓨팅 수요를 충족할 수 있도록 설계됐다.

엔비디아의 공동 창립자이자 최고경영자(CEO)인 젠슨 황(Jen-Hsun Huang)은 “인공지능은 새로운 아키텍처를 요구하는 새로운 컴퓨팅 모델”이라며, “ATX 표준이 오늘날 PC 대중화를 가져왔듯이, HGX-1 하이퍼스케일 GPU 가속기는 인공지능 클라우드 컴퓨팅 확산에 기여할 것이다. HGX-1는 클라우드 서비스 제공자가 손쉽게 엔비디아 GPU를 채택하고, 급증하는 AI 컴퓨팅 수요에 대응할 수 있도록 만들 것이다”라고 밝혔다.

마이크로소프트의 애저 하드웨어 인프라스트럭처(Azure Hardware Infrastructure) 수석 엔지니어 겸 총괄 책임자인 쿠사그라 바이드(Kushagra Vaid)는 관련 블로그를 통해 "HGX-1 AI 가속기는 급성장하는 머신 러닝 워크로드의 까다로운 요구사항을 충족하는 뛰어난 성능 확장성을 제공하며, 가속기의 고유한 디자인을 통해 전세계 기존 데이터센터에 손쉬운 적용도 가능하다"고 말했다.

HGX-1 아키텍처는 현재 AI 투자와 AI 기반의 접근을 추진하고 있는 전 세계 수천 개의 대기업 및 스타트업들에게 클라우드 기반의 역대급 설정성(configurability) 및 성능을 제공한다.

HGX-1 아키텍처는 섀시 당 8개의 엔비디아® 테슬라(Tesla®) P100 GPU로 구동되며, 엔비디아 NVLink™ 인터커넥트 기술과 PCIe 표준에 기반한 혁신적인 스위칭 디자인을 채택하여 CPU를 다수의 GPU에 동적으로 연결시킬 수 있다. 이는 HGX-1 인프라스트럭처에 표준화된 클라우드 서비스 제공자가 고객에게 폭넓은 CPU 및 GPU 머신 인스턴스 설정을 제공할 수 있도록 지원한다.

클라우드 워크로드는 그 어느 때보다 다양하고 복잡해지고 있다. AI 훈련 및 추론, HPC 워크로드의 구동은 다양한 수의 GPU와 연결된 CPU를 통해 다양한 시스템 설정 상에서 최적화될 수 있다. 고도로 모듈화된 디자인의 HGX-1은 워크로드에 상관없이 최적의 성능을 구현한다. HGX-1은 CPU 기반 레거시 서버 대비 최대 100배 더 빠른 딥 러닝 성능을 구현하며, AI 훈련 및 추론 비용은 각각 5분의 1, 10분의 1 수준으로 경감된다.

전세계 데이터센터에서 작동 가능한 유연성을 갖춘 HGX-1은 기존 하이퍼스케일 데이터센터에 신속하고 간단한 AI 구현 경로를 제공한다.

하이퍼스케일 표준화를 위한 업계 협업

엔비디아, 마이크로소프트, 인그라시스(Ingrasys; 폭스콘(Foxconn)의 자회사)는 HGX-1 플랫폼의 아키텍처 개발 및 디자인을 위해 협업을 진행했다. 이들 기업들은 마이크로소프트의 프로젝트 올림푸스의 일환으로 HGX-1 플랫폼을 공유한다. 프로젝트 올림푸스가 참여하는 오픈 컴퓨트 프로젝트(Open Compute Project)는 오픈소스의 장점을 하드웨어에 적용하고 데이터센터 내외부는 물론 주변 환경 등에서 혁신의 속도를 가속화하려는 취지로 설립된 컨소시엄이다.

레퍼런스 디자인을 오픈 컴퓨트 프로젝트 커뮤니티와 공유함으로써, 기업들은 손쉽게 동일한 디자인을 구매하고 자사 데이터센터에 적용할 수 있다.

엔비디아의 오픈 컴퓨트 프로젝트 참여

엔비디아는 데이터센터에 AI와 혁신을 추진하는 오픈 컴퓨트 프로젝트에 참여하고 있다. 엔비디아는 마이크로소프트, 인그라시스 등 여러 프로젝트 참여자와 지속적인 협력을 통해, 클라우드 서비스 제공자 및 데이터센터 고객들을 위한 AI 구현 컴퓨팅 플랫폼을 제공해나갈 계획이다.