엔비디아가 컴퓨팅의 새로운 시대를 여는 블랙웰(Blackwell) 플랫폼 출시한다고 발표했다.
블랙웰은 게임 이론과 통계학을 전공한 수학자이자 흑인으로는 최초로 미국국립과학원(National Academy of Sciences)에 입회한 데이비드 헤롤드 블랙웰(David Harold Blackwell)을 기리기 위해 붙여진 이름이다. 이 새로운 아키텍처는 2년 전 출시된 엔비디아 호퍼(Hopper) 아키텍처의 후속 아키텍처로, 이전 세대 대비 최대 25배 적은 비용과 에너지로 조 단위의 대규모 언어 모델(LLM)에서 실시간 생성형 AI를 구축하고 실행할 수 있도록 지원한다고 소개했다.
블랙웰 아키텍처 GPU는 2,080억 개의 트랜지스터를 탑재했다. GPU 다이가 초당 10TB의 칩 투 칩(chip-to-chip) 링크로 연결된 단일 통합 GPU로 맞춤형 2레티클 제한 4NP TSMC 공정을 통해 제조된다. 호퍼 대비 두 배의 크기에 1280억개의 트랜지스터가 더 탑재되고, 다섯 배에 달하는 AI 성능과 4배의 온 다이 메모리를 통합한다.
2세대 트랜스포머 엔진을 탑재한 블랙웰은 새로운 마이크로 텐서 확장 지원과 엔비디아 텐서RT-LLM(TensorRT-LLM), 네모 메가트론(NeMo Megatron) 프레임워크에 통합된 엔비디아의 고급 동적 범위 관리 알고리즘에 기반한다. 이를 통해 새로운 4비트 부동 소수점 AI 추론 기능으로 컴퓨팅과 모델 크기를 두 배로 늘릴 예정이다.
수조 개의 파라미터와 여러 전문 AI 모델 조합의 성능을 가속화하기 위해 적용된 최신 버전의 5세대 엔비디아 NV링크는 GPU당 획기적인 초당 1.8테라바이트의 양방향 처리량을 제공한다. 이는 오늘날 가장 복잡한 LLM을 위한 최대 576개의 GPU 간의 원활한 고속 통신을 보장한다.
블랙웰 기반 GPU에는 안정성, 가용성, 서비스 가능성을 위한 전용 RAS 엔진이 포함된다. 또한 블랙웰 아키텍처는 칩 수준에서 AI 기반 예방적 유지보수 기능을 활용해 진단을 실행하고 안정성 문제를 예측하는 기능을 추가한다. 이를 통해 시스템 가동 시간을 극대화하고 복원력을 개선해 대규모 AI 배포를 몇 주 또는 몇 달 동안 중단 없이 한 번에 실행하고 운영 비용을 절감할 수 있다.
고급 기밀 컴퓨팅 기능은 의료와 금융 서비스와 같이 개인정보 보호에 민감한 산업에 필수적인 새로운 기본 인터페이스 암호화 프로토콜 보안 AI를 지원한다.
최신 형식을 지원하는 전용 압축해제 엔진은 데이터베이스 쿼리를 가속화해 데이터 분석과 데이터 과학에서 최고의 성능을 제공한다. 앞으로 기업들이 매년 수백억 달러를 지출할 것으로 예상되는 데이터 처리는 GPU를 통해 점점 더 가속화될 것이다.
엔비디아 GB200 그레이스 블랙웰 슈퍼칩은 초당 900기가바이트(GB) 초저전력 칩 투 칩 링크를 통해 두 개의 엔비디아 B200 텐서 코어 GPU를 엔비디아 그레이스 CPU에 연결한다.
엔비디아 퀀텀-X800 인피니밴드(Quantum-X800 InfiniBand)와 스펙트럼-X800 Ethernet(Spectrum-X800 이더넷) 플랫폼은 블랙웰과 함께 발표됐다. 이들은 최대 800Gb/s의 속도로 고급 네트워킹을 제공하며 GB200 기반 시스템과 함께 연결하면 최고의 AI 성능을 발휘할 수 있다.
블랙웰 제품 포트폴리오는 생산 등급 AI를 위한 엔드투엔드 운영 체제인 엔비디아 AI 엔터프라이즈(AI Enterprise)에서 지원된다. 엔비디아 AI 엔터프라이즈에는 이번에 발표된 엔비디아 NIM 추론 마이크로서비스와 기업이 엔비디아 가속 클라우드, 데이터센터, 워크스테이션에 배포할 수 있는 AI 프레임워크, 라이브러리, 툴이 포함된다.
블랙웰 기반 제품은 올해 말부터 파트너사를 통해 구매할 수 있으며, 3월 21일까지 진행되는 GTC에 참여해 엔비디아와 업계 리더들로부터 관련 정보를 들을 수 있다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
