엔비디아가 컴퓨텍스 기조연설을 통해 AI와 로보틱스 관련 성과를 공개했다.
핵심 내용은 지난 GDC와 GTC등에서 공개한 내용을 중심으로 이의 활용과 실제 서비스 활용 등에 관련된 내용을 다뤄, 엔비디아의 행보를
쭉 지켜봐왔다면 특별히 주목할 내용은 없었다. 특히 하반기 게이밍 그래픽 카드 세대 교체가 예견된 상황에서 기대를 모았던 신규 그래픽 카드에
대한 내용 언급은 없었다. 엔비디아의 차세대 게이밍 그래픽 카드는 자체 행사 혹은 8월 말 예고된 게임스컴에서 공개될 것으로 예상된다.
호퍼 H100과 함께하는 데이터 센터 시장 선도
엔비디아는 거대한 시장을 바꿔 놓고 있는 AI 구현을 위해 파트너사들과 긴밀히 협력,
시스템, 하드웨어 및 소프트웨어 인프라를 포함해 AI 프레임 워크 및 어플리케이션에서 협업하고 있음을 강조하며, 오늘날의 데이터센터는 AI
공장으로 탈바꿈하고, 시장 규모 역시 날로 커져가고 있음을 지적했다.
최신 AI 팩토리의 재구상을 위한 네 가지의 핵심 요소로 처리장치(CPU/
GPU/ DPU), 컴퓨팅 확장을 위한 고속 인터커넥트와 네트워크, 고성능을 보다 효율적으로 구현할 수 있는 에너지 효율 시스템, AI 팩토리
운영을 위한 강력한 SW를 꼽았다.
엔비디아는 전 세대 A100보다 수십배 뛰어난 성능을 발휘한다고 자부하는 호퍼 H100이
NVLink를 통해 최대 256개의 GPU 또는 32대의 HGX 서버가 통신할 수 있으며, 최신 트랜스포머 기반 모델 트레이닝과 호퍼 트랜스포머
엔진, 최신 퀀텀2 인피니밴드 등의 결합으로 1주일 걸릴 작업을 20시간 만에 완료할 수 있다고 자부심을 나타냈다.
엔비디아는 또한 매년 x86과 ARM에 번갈아가며 초점을 맞춰 매년 혁신을 이어가며,
올해는 AI 워크로드 가속을 위해 그레이스 CPU를 발표한 바 있다. 2023년 출시될 예정으로 H100과 그레이스 CPU가 결합된
'그레이스-호퍼', 혹은 듀얼 CPU 조합인 그레이스 슈퍼칩으로 활용되며, 그레이스 CPU는 기존 CPU보다 15배 빠른 속도로 데이터를 호퍼에
전송하고 호퍼의 작업 데이트 크기를 최대 2TB까지 늘릴 수 있으며, 그레이스 슈퍼칩은 기존 서버보다 두 배의 에너지 효율을 구현할 수 있다.
그레이스 호퍼와 그레이스 슈퍼칩의 에너지 효율을 높이는데는 NVLink 칩 투 칩
인터커넥트 기술이 활용, NIC와 SoC, DPU 등의 통합에 확대 적용될 예정으로, 엔비디아는 NVKink-C2C외에도 UCIe 표준도 지원할
예정이다.
한편, 더 많은 데이터 처리가 요구되는 AI 시대의 요구에 부응하기 위해 개발된 블루필드
DPU(데이터 프로세싱 유닛)는 컴퓨팅 노드를 데이터센터 네트워크, 인피니밴드 퀀텀 스위치, 이더넷 스펙트럼 스위치에 연결하는 데이터 처리
장치로 구성된 데이터센터 운영체제를 실행하는 컴퓨팅 플랫폼을 표방한다.
여기에 AI 및 데이터 사이언스의 엔드 투 엔드 워크플로우 지원을 위한 SW 제품군인
엔비디아 AI 엔터프라이즈는 데이터 준비 및 분석, 실시간 추론을 위한 RAPIDS, 음성 AI Riva, 비전 AI 프레임워크인
Metropolis 등으로 구성된다.
AI의 새로운 영역으로 부각 중인 로보틱스
데이터센터에 이어, 엔비디아는 환경을 정확하게 인식하고 행동에 대한 자동화를 추구하는
AI의 새로운 주요 애플리케이션으로 떠오르고 있는 로보틱스에 대한 이야기를 풀었다. 제조, 소매, 농업, 물류 및 의료 산업 전반에 로보틱스가
활용 중이며, 이러한 로보틱스 지원을 위한 엔비디아의 핵심 플랫폼인 아이작'Issac'에 대한 설명을 이어갔다.
아이작의 핵심 요소는 AI 생성, 가상 세계에서의 동작 시뮬레이션, 물리적 로봇 제작,
로봇군의 관리 네 가지를 들었다. AI 훈련을 위한 합성 데이터 생성(SDG)를 통해 드물게 발생하는 경우에 대한 훈련과 판단을 내릴 수 있고,
정확도 개선 및 AI 모델 생성 등에 소요되는 시간을 단축할 수 있다.
여기에 엔비디아 옴니버스를 통해 충실도 높은 그래픽과 정확한 물리효과를 결합한 시뮬레이션
환경 구현을 위한 아이작 심(Sim)을 구현, 현실과 시뮬레이션의 간극을 줄일 수 있도록 지원하고, 강화 학습을 활용해 로봇 제어 정책 훈련
기간을 대폭 단축할 수 있는 아이작 짐(Gym)도 제공한다.
엔비디아는 엣지 및 로보틱스 애플리케이션을 위한 AI 플랫폼으로 재탄생한 엔비디아
젯슨(Jetson)은 대화형 AI SDK Riva를 실행할 수 있도록 업데이트 되었고, 엔비디아 GPU서 ROS 가속을 위해 오픈 로보틱스와
협력해 만들어낸 아이작 ROS, 다양한 로봇 알고리즘 사용을 위한 아이작 젬스(GEMS) 등의 소프트웨어 스택을 확대해 나가고 있다.
한편, 소프트웨어 및 폼펙터 호환성을 유지하며 이전 세대 자비에르Xavier) 대비 최대
다섯 배의 성능과 최대 275TFLOPS의 연산 성능을 발휘하는 개발자 키트인 젯슨 AGX 오린을 출시한다고 밝혔다.
엔비디아 오린(Orin) 기반은 젯슨 AGX 오린 2개로 구성되며, 스테레오 카메라
2개, 광각 카메라 4개, 2D 레이더 2개, 3D 레이더 1개 및 초음파 센서 8개 등 다수의 센서를 지원하며, 암페어 텐서 코어 GPU 및
12개의 ARM A78 CPU로 구동된다.
게이머를 위해 어디서나 RTX On
초반에 언급한 것처럼, 5월 말 출시될 것이란 소문이 돌고 있는 엔트리급 모델인 지포스
GTX 1630을 포함해 이번 컴퓨텍스 키노트서 엔비디아의 차세대 그래픽 카드 관련 정보는 언급되지 않았고, 게이밍 시장에서 이룬 성과에 대한
소개가 이어졌다.
엔비디아는 올해 PC 게임 하드웨어 시장이 670억 달러에 달하고, 향후 수년 간 두
자리 수의 성능을 기록할 것으로 에상된다며, 지난 2년 동안 1억명의 게이머가 엔비디아 진영에 추가되었다고 알렸다. 엔비디아는 게이머의
크리에이터를 위한 플랫폼 구축을 위해 최선을 다하고 있으며, 그 중심에는 지포스 RTX 30 시리즈가 자리하고 있다고 자부심을 표현했다.
여기에 응답속도 개선을 위한 엔비디아 리플렉스, 비디오 인코더, AI 기반 방송용 앱인
브로드캐스트, 창장작를 위한 엔비디아 스튜디오 및 옴니버스, 게임 레디 및 스튜디오 드라이버를 지원, 생태계를 강화해 나가고 있음을 알렸다.
또한 맥스-Q 기술을 바탕으로 더욱 효율적으로 개선된 게이밍, 크리에이터 노트북 시장의
성장도 계속되고 있으며, RTX를 중심으로 그래픽 분야의 혁신과 성장이 이어질 것이라며 키노트를 마무리했다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
