AI 연산에 쓰이는 고성능 GPU를 겨냥한 새로운 메모리 해킹 기술인 'GPUHammer'가 공개되었다.
토론토 대학 연구진들에 따르면 해당 취약점은 GDDR6 메모리가 사용된 엔비디아 그래픽 카드에서 로우헤머(Rowhammer) 공격 원리를 응용, 실행 중인 AI 모델을 교란해 정확도를 무의미한 수준까지 급락 시킬 수 있는 것으로 조사되었다.
GPUHammer는 전통적인 DRAM Rowhammer와 같이 GDDR6 메모리에서 특정 메모리 셀을 반복적으로 접근해 인접 비트 값을 교란하는 방식으로 작동하며, 연구진들은 RTX A6000에서 실행 중인 ImageNet 기반 DNN 모델의 FP16 가중치를 조작해 예측 정확도를 80%에서 0.1%로 떨어지는 현상을 확인했다고 알렸다.
이번 공격은 코드나 모델 자체 수정없이 GPU 메모리에 로드된 가중치 데이터만 조작하기 때문에 탐지가 어렵고, 악성 커널이 정상적인 AI 연산처럼 위장할 수도 있어 클라우드 기반 AI 서비스, 공유 GPU 환경, 고성능 워크스테이션 등이 주요 타깃이 될 수 있다.
현재까지 해당 취약점이 직접 확인된 모델은 GDDR6 메모리를 사용하는 RTX A6000 뿐인데, 연구진은 이와 관련해 각 제품에 쓰인 GDDR6 메모리의 동작 특성 차이 때문으로 추정했다. 때문에 아직 취약점이 발견되지 않은 GPU라도 완전히 안전하다고 장담할 수 없는 상황이다.
한편, 연구진은 올해 1월 엔비디아와 주요 클라우드 서비스 제공업체에 관련 취약점을 통보, 이와 관련해 엔비디아는 GPU가 지원하는 경우 ECC를 활성화해 대응할 것을 권고한 상태로, GPUHAMMER 관련 세부 내용과 논문은 홈페이지에서 확인할 수 있다.
|
[영상] AI 수요가 늘면 왜 DDR5 값이 오를까?, [메모리 가격 폭등 1부] 
