미국에서 중국에 대한 일정 수준 이상 성능의 반도체 수출을 규제하면서 이를 우회하기 위한 다양한 시도가 이어지고 있다. 대표적으로 엔비디아에서 GPU 스펙을 조정한 여러 모델들을 내놓고 있는데, 새로운 접근법을 내놓을 것이란 주장이 나왔다.
엔비디아는 지금까지 미 정부의 수출 규제 우회를 위해, GPU 스펙을 조정하는 방식을 이용했는데, 로이터에 따르면 엔비디아가 HGX H20의 모듈 구성 조정과 함께 메모리 용량을 대폭 축소한 모델을 7월 부터 출시할 계획이라고 전했다. HGX H20은 HBM3 메모리 용량 96GB, 메모리 대역폭 4TB/s를 제공한다.
HBM 기반인 만큼 일반적인 게이밍 그래픽 카드에 들어가는 GDDR 메모리와 달리 고밀도 메모리로의 교환이 어렵고, 따라서 메모리 용량을 줄이는 것만으로도 LLM 학습 능력을 제한할 수 있을 것으로 예상된다.
한편, 엔비디아는 새로운 중국형 모델 출시 소식에 대해 공식 입장을 내놓지 않고 있는데, 해당 매체에 따르면 신 모델은 7월 중 공급을 목표로 하고 있는 만큼 조만간 그 실체를 확인할 수 있을 것으로 보인다.
|
[영상] 24년 하드웨어 전문기자가 바라는 새정부의 소버린 AI 정책의 방향, 칩부터 모델링 산업융합까지 우리 것으로 
