SK하이닉스가 생성형 인공지능(AI)에 특화된 HDDR6-AiM 기반 가속기 카드를 공개했다.
SK하이닉스는 보도자료를 통해 지난 12일(미국시간)부터 사흘한 미국 캘리포니아주 메리어트 산타클라라 호텔에서 열린 'AI Hardware & Edge AI Summit 2023 (이하 AI 서밋)'에서 GDDR6-AiM 기반의 생성형 AI 가속기 카드인 AiMX 시제품을 최초로 공개했다고 밝혔다.
AI 서밋은 영국 마케팅 기업 키사코 리서치(Kisaco Research)가 주최하는 연례 행사로, 글로벌 IT 기업과 유명 스타트업이 참가해 인공지능과 머신러닝 개발 성과를 공유하는 자리다.
SK하이닉스는 올해 세 번째로 AI 서밋에 참가해 '인공지능 성능을 가속하는 SK하이닉스의 PIM 반도체 AiM'이라는 슬로건을 걸고 GDDR6-AiM과 이 제품을 여러 개 연결해 성능을 한층 개선한 가속기 카드 AiMX 시제품을 선보였다.
GDDR6-AiM는 연산 기능을 갖춘 SK하이닉스의 차세대 메모리 반도체인 PIM(Processing-in-Memory)이 적용된 첫 제품으로, 초당 16Gbps 속도로 데이터를 처리하는 GDDR6 메모리에 연산 기능이 더해져 일반 D램 대신 이 제품을 CPU/GPU와 함께 탑재하면 특정 연산 속도가 최대 16배까지 빨라진다. 또한 GDDR6의 기존 동작 전압인 1.35V보다 낮은 1.25V에서 구동되고 자체 연산을 하는 PIM이 CPU/GPU로의 데이터 이동을 줄여 기존 제품 대비 에너지 소모는 80% 가량 줄어든다.
SK하이닉스는 생성형 AI는 데이터 학습량이 많을수록 우수한 결과를 내기 때문에 대량의 데이터를 다루면서 저전력, 고속으로 작동하는 메모리를 필요로 한다면서, 이번 행사에서 메타(Meta)의 생성형 AI인 'OPT(Open Pre-trained Trasformer) 13B' 모델을 AiMX 시제품을 탑재한 서버 시스템을 통해 GPU 탑재 시스템 대비 반응 속도는 10배 이상 빠르지만 전력 소모는 1/5 수준으로 최신 가속기 대비 높은 성능을 낼 수 있다는 점을 보여주며 AI를 서비스하는 글로벌 기업들의 주목을 받았다고 설명했다.
또한 AiMX의 장점을 구체적으로 설명하는 세션 발표도 현장에서 진행했는데, SK하이닉스의 메모리솔루션담당 임의철 부사장이 GPU와 AiMX의 성능을 비교하며 차세대 지능형 메모리 반도체의 미래를 설명했다.
|
[영상] 24년 하드웨어 전문기자가 바라는 새정부의 소버린 AI 정책의 방향, 칩부터 모델링 산업융합까지 우리 것으로 
