AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr)가 대규모 AI 와 고성능 컴퓨팅을 지원하는 혁신적인 엔비디아(NVIDIA) GH200 그레이스 호퍼 슈퍼칩(GH200 Grace Hopper Superchip)을 탑재한 슈퍼컴퓨터 수십 대가 온라인에 출시될 예정이라고 소개했다.
과학자와 연구자들은 엔비디아 GH200으로 테라바이트(Terabytes)급 데이터 실행이 가능한 복잡한 AI와 HPC 애플리케이션을 가속화해 세계에서 가장 까다로운 문제들을 해결할 수 있다.
엔비디아는 슈퍼컴퓨팅 컨퍼런스 SC23에서, 이 슈퍼칩이 델 테크놀로지스(Dell Technologies), 에비덴(Eviden), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 레노버(Lenovo), QCT, 슈퍼마이크로(Supermicro)를 포함한 전 세계 더 많은 시스템에 탑재될 예정이라고 밝혔다.
엔비디아 GH200은 엔비디아 NV링크(NVLink)-C2C 인터커넥트 기술을 사용하는 Arm 기반 엔비디아 그레이스 CPU(Grace CPU)와 호퍼 GPU(Hopper GPU) 아키텍처를 결합했다. 아울러 GH200은 전 세계 과학 슈퍼컴퓨팅 센터의 엔진 역할도 수행하고 있다.
GH200 기반 센터를 모두 합치면 약 200 엑사플롭(Exaflops)의 AI 성능을 발휘해 과학 혁신을 주도할 수 있다.
엔비디아 그레이스 호퍼를 탑재한 HPE 크레이(Cray) 슈퍼컴퓨터
HPE는 덴버에서 열린 이번 행사에서 엔비디아 그레이스 호퍼 슈퍼칩을 탑재한 HPE 크레이 EX2500 슈퍼컴퓨터를 제공한다고 밝혔다. 이 통합 솔루션은 쿼드(Quad) GH200 프로세서를 탑재해 최대 수만 개의 그레이스 호퍼 슈퍼칩 노드로 확장이 가능하다. 이는 기업들에 탁월한 슈퍼컴퓨팅 민첩성과 더 빠른 AI 훈련을 제공한다. 이러한 구성은 HPE가 발표한 생성형 AI용 슈퍼컴퓨팅 솔루션의 일부이기도 하다.
HPE 부사장 겸 HPC, AI와 연구소 총괄 매니저인 저스틴 호타드(Justin Hotard)는 "기업들이 비즈니스 전환과 기술 혁신 가속화를 위해 생성형 AI를 빠르게 도입하고 있다. 엔비디아와 협력해 그레이스 호퍼와 같은 기술을 기반으로 하는 완전한 생성형 AI용 슈퍼컴퓨팅 솔루션을 제공하게 돼 기쁘다. 이를 통해 고객들은 더욱 효율적으로 대규모 AI 모델 훈련과 튜닝을 쉽게 가속화할 수 있을 것"이라고 말했다.
차세대 AI 슈퍼컴퓨팅 센터
전 세계 수많은 슈퍼컴퓨팅 센터가 엔비디아 그레이스 호퍼 시스템으로 구동된다. 몇몇 최고 수준의 센터들은 SC23에서 슈퍼컴퓨터에 GH200 시스템을 통합한다고 발표했다.
독일 율리히 슈퍼컴퓨팅 센터(Jülich Supercomputing Centre)는 유럽 최초의 엑사스케일(Exascale) 슈퍼컴퓨터가 될 주피터(JUPITER)에 GH200 슈퍼칩을 사용할 예정이다. 이 슈퍼컴퓨터는 기후 변화 완화, 전염병 퇴치, 지속 가능한 에너지 생산 강화와 같은 긴급한 과학적 난제를 해결하는 데 기여할 것으로 기대된다.
쓰쿠바 대학(University of Tsukuba)의 컴퓨터 과학 센터와 도쿄 대학(University of Tokyo)의 정보 기술 센터가 공동 설립한 일본 고성능 컴퓨팅 공동센터(Joint Center for Advanced High Performance Computing)는 학계와 산업계 전반에 걸쳐 데이터 분석, AI, 머신 러닝 등과 통합된 첨단 계산 과학을 지원한다. 엔비디아 그레이스 호퍼는 이 센터의 차세대 슈퍼컴퓨터를 구동할 예정이다.
텍사스 오스틴에 위치한 텍사스 첨단 컴퓨팅센터(Texas Advanced Computing Center)는 세계에서 가장 강력한 컴퓨팅 리소스를 설계하고 운영한다. 이 센터는 저전력, 고대역폭 메모리를 제공하는 엔비디아 GH200을 통해 비스타(Vista) 슈퍼컴퓨터를 구동한다. 이는 더 많은 계산을 처리하는 동시에 더 큰 모델을 효율적으로 실행할 수 있도록 지원한다.
일리노이 대학교 어바나-샴페인(University of Illinois Urbana-Champaign) 산하 국립 슈퍼컴퓨팅 애플리케이션 센터(National Center for Supercomputing Applications)는 델타 AI(DeltaAI)에 엔비디아 그레이스 호퍼 슈퍼칩을 탑재할 계획이다. 델타 AI는 NCSA의 AI 중심 컴퓨팅 용량을 3배로 늘리는 고급 컴퓨팅이자 데이터 리소스 세트이다.
또한, 브리스톨 대학교(University of Bristol)는 최근 영국 정부로부터 영국에서 가장 강력한 슈퍼컴퓨터로 자리매김할 이점바드-AI(Isambard-AI) 구축을 위해 자금을 지원받았다. 아점바드-AI는 로보틱스, 빅데이터, 기후 연구, 신약 개발 분야 등에서 AI 기반 혁신을 주도할 것으로 주목받고 있다. HPE가 구축 중인 이 새로운 시스템에는 5,000개 이상의 엔비디아 GH200 그레이스 호퍼 슈퍼칩이 탑재된다. 이로써 초당 21경 회 AI 연산 수행이 가능한 21 엑사플롭의 AI 슈퍼컴퓨팅 성능을 제공한다.
아울러 앞서 스위스 국립 슈퍼컴퓨팅 센터(Swiss National Supercomputing Centre), 로스 알라모스 국립 연구소(Los Alamos National Laboratory), 소프트뱅크(SoftBank Corp)는 차세대 그레이스 호퍼 시스템에 합류한다고 밝힌 바 있다.
GH200, 전 세계 배송과 CSP에서 얼리 액세스 가능
GH200은 람다(Lambda)와 벌쳐(Vultr) 등 일부 클라우드 서비스 제공업체에서 얼리 액세스로 이용 가능하다. 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure)는 GH200 인스턴스 제공 계획을 발표했다. 코어위브(Coreweave)도 2024년 1분기부터 GH200 인스턴스의 조기 출시 계획을 자세히 설명했다.
애즈락랙(ASRock Rack), 에이수스(ASUS), 기가바이트(GIGABYTE), 인그라시스(Ingrasys)등 다른 시스템 제조업체들도 연말까지 슈퍼칩이 탑재된 서버를 출시할 계획이다.
엔비디아 그레이스 호퍼는 전 세계 100개 이상의 기업, 조직, 정부 기관에 의해 슈퍼컴퓨팅 프로젝트를 위한 얼리 액세스로 채택됐다. 여기에는 항공 연구를 위한 나사 에임스 연구센터(NASA Ames Research Center)와 글로벌 에너지 기업 토탈에너지스(TotalEnergies
[영상] 메모리 때문에 모든게 엉망! 지포스 RTX 5090 단종 및, 5080 24GB 출시 루머 총정리 
