엔비디아(CEO 젠슨 황)가 메타(Meta)의 차세대 AI 플랫폼 그랜드 테톤(Grand Teton)에 엔비디아 호퍼(NVIDIA Hopper)를 지원한다고 밝혔다.
와이오밍의 두 국립공원 중 한 곳에 있는 13,000피트 산의 이름을 따서 명명된 그랜드 테톤(Grand Teton)은 엔비디아 H100 텐서 코어(Tensor Core) GPU를 사용해 크기와 기능이 빠르게 성장해 더 많은 컴퓨팅이 필요한 AI 모델을 교육 및 실행한다.
H100의 기반으로 하는 엔비디아 호퍼 아키텍처는 이러한 신경망 작업을 가속화하기 위한 트랜스포머 엔진을 포함하고 있다. 이는 자연어 처리에서 의료, 로보틱스 등으로 확장되는 애플리케이션 세트를 처리할 수 있기 때문에 기반 모델이라고 불린다.
엔비디아 H100은 성능과 에너지 효율성을 위해 설계됐다. H100 가속 서버는 하이퍼스케일 데이터센터에 있는 수천 대의 서버에 걸쳐 엔비디아 네트워킹과 연결될 경우 CPU 전용 서버보다 300배 더 에너지 효율적일 수 있다.
그랜드 테톤은 자이언 시스템에 비해 2배의 네트워크 대역폭과 4배의 호스트 프로세서와 GPU 가속기 대역폭을 자랑한다.
비욜린은 추가된 네트워크 대역폭을 통해 메타는 AI 모델 교육을 위한 더 큰 시스템 클러스터를 만들 수 있다고 말했다. 아울러 이는 더 큰 AI 모델을 저장하고 실행하기 위해 자이언보다 더 많은 메모리를 포장한다.
|
[영상] 비싼 메모리 시대에 램버스 실패로 알아보는, AI 시대 메모리 확보 전쟁의 끝은? [PC흥망사 17-2] 
