AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)는 생성형 AI와 5G/6G 애플리케이션을 위한 선구적인 플랫폼에 대한 소프트뱅크와의 협력을 발표했다. 소프트뱅크는 엔비디아 GH200 그레이스 호퍼™(Grace Hopper™) 슈퍼칩을 기반으로 하는 해당 플랫폼을 일본 전 지역의 새로운 분산 AI 데이터센터에 배포할 계획이다.
소프트뱅크는 생성형 AI 애플리케이션과 서비스를 전세계에 신속하게 배포할 수 있는 기반을 구축한다. 그리고 엔비디아와의 협력을 통해 다중 테넌트 공통 서버 플랫폼에서 생성형 AI와 무선 애플리케이션을 호스트할 수 있는 데이터센터를 구축하여 비용을 줄이고 에너지 효율성을 높일 계획이다.
이 플랫폼은 Arm 네오버스(Neoverse) 기반 GH200 슈퍼칩과 함께 새로운 엔비디아 MGX™ 참조 아키텍처를 사용하며, 애플리케이션 워크로드의 성능, 확장성, 리소스 활용도를 개선할 것으로 기대된다.
소프트뱅크 회장 겸 CEO인 미야카와 준이치(Junichi Miyakawa)는 “사회와 AI가 공존하는 시대에 접어들면서 데이터 처리와 전력 수요가 급증할 것이다. 소프트뱅크는 일본의 초디지털화 사회를 지원하기 위한 차세대 소셜 인프라를 제공할 것이다. 엔비디아와의 협력은 RAN 최적화를 포함해 AI 활용으로 자사 인프라의 성능을 대폭 높이는 데 도움이 될 것이다. 또한 에너지 소비는 줄이면서 리소스를 공유하고 다양한 생성형 AI 애플리케이션을 호스팅하는 데 사용할 수 있는 상호 연결된 데이터센터 네트워크를 구축하는데도 도움이 될 것으로 기대한다”고 말했다.
엔비디아 창립자 겸 CEO인 젠슨 황(Jensen Huang)은 “가속 컴퓨팅과 생성형 AI에 대한 수요가 데이터센터 아키텍처의 근본적인 변화를 주도하고 있다. 엔비디아 그레이스 호퍼는 생성형 AI 서비스를 처리하고 확장하도록 설계된 혁신적인 컴퓨팅 플랫폼이다. 이전의 다른 선구적인 이니셔티브와 마찬가지로, 소프트뱅크는 생성형 AI 서비스를 호스팅하기 위한 통신 네트워크 구축 분야에서 세계를 선도하고 있다”고 말했다.
새로운 데이터센터는 과거에 사용된 데이터센터보다 공간 전체적으로 더 고르게 분산되며, AI 및 5G 워크로드를 모두 처리한다. 이를 통해 낮은 지연시간과 상당히 줄어든 에너지 비용으로 최대 용량에서 더 잘 작동할 수 있다.
소프트뱅크는 자율주행, AI 공장, 증강 및 가상 현실, 컴퓨터 비전, 디지털 트윈을 위한 5G 애플리케이션 개발을 추진하고 있다.
기록적인 처리량의 가상 RAN
엔비디아 그레이스 호퍼와 엔비디아 블루필드®-3(BlueField®-3) 데이터 처리 장치(DPU)는 맞춤형 하드웨어 가속기나 특수 5G CPU 없이 소프트웨어 정의 5G vRAN과 생성형 AI 애플리케이션을 가속화한다. 또한 블루필드-3를 탑재한 엔비디아 스펙트럼(Spectrum) 이더넷 스위치는 5G를 위한 고정밀 타이밍 프로토콜을 제공한다.
이 솔루션은 5G 가속기에서 공개적으로 사용 가능한 데이터를 기반으로 36Gbps(초당 기가비트) 다운링크 용량의 업계 최고 처리량으로 엔비디아 가속 1U MGX 기반 서버 설계에서 혁신적인 5G 속도를 달성한다. 그동안 업계 표준 서버를 사용하는 운영자는 이렇게 높은 다운링크 용량을 제공하는 데 어려움을 겪었다.
새로운 참조 아키텍처
엔비디아 MGX는 시스템 제조업체와 하이퍼스케일 고객이 다양한 AI, HPC(고성능 컴퓨팅), 엔비디아 옴니버스™ 애플리케이션에 적합한 100개 이상의 다양한 서버 변형을 신속하고 비용 효율적으로 구축할 수 있게 해주는 모듈식 참조 아키텍처다.
고성능, 소프트웨어 정의, 클라우드 네이티브 5G 네트워크를 위한 엔비디아 에이리얼™(Aerial™) 소프트웨어를 활용하는 5G 기지국을 통해, 운영자는 컴퓨팅 리소스를 동적으로 할당하고 경쟁 제품보다 2.5배 높은 전력 효율성을 달성할 수 있다.
Arm CEO인 르네 하스(Rene Haas)는 “생성형 AI의 미래에는 엔비디아의 Arm 네오버스 기반 그레이스 호퍼 슈퍼칩과 같은 에너지 효율적 고성능 컴퓨팅이 필요하다. 엔비디아 블루필드 DPU와 결합된 그레이스 호퍼는 새로운 소프트뱅크 5G 데이터센터가 가장 까다로운 컴퓨팅과 메모리 집약적인 애플리케이션을 실행하고 Arm 기반 소프트웨어 정의 5G와 AI에 기하급수적인 효율성 향상을 가져올 수 있다"고 말했다.
[영상] 하나도 새롭지 않은 엔비디아의 개인용 AI 노트북, RTX SPARK와 젠슨 황 Q&A까지 
