리뷰
 





 
 
 




메인
전송 2023-11-16 15:46
[취재]

데이터센터 겨냥 4배 빨라진 AI 추론 성능
사피온 X330 발표 기자간담회

글로벌 AI 반도체 기업 사피온(SAPEON)이 데이터센터용 AI 반도체 'X330'을 발표했다.

사피온은 2022년 SK텔레콤에서 스핀오프하여 AI 반도체 글로벌 시장 공략에 주력하고 있는 팹리스 기업으로 SK ICT연합(SK텔레콤, SK하이닉스, SK스퀘어)의 협력의 첫 결과물이다.

사피온은 지난 11월 15일 오후 SK T-타워 4층 SUPEX HALL에서 국내 미디어들을 대상으로 기자간담회를 개최하고 전작 대비 속도가 4배 향상된 데이터센터용 AI 반도체 X330을 출시한다고 밝혔다.

 

사피온 X330은 추론용 NPU로서 전작인 X220에 비해 응용범위가 표준 기술 기반 하에 대폭 확대되었다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU다. AI 추론을 위한 최고 수준 연산기, 초저전력 설계, 초고속 I/O, 그리고 거대 언어 모델(Large Language Model, LLM) 지원을 특징으로 한다.

TSMC 7nm 공정을 기반으로 하는 X330은 전작인 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력 효율을 확보하여 경쟁사의 5nm 제품 대비 연산 성능이 약 2배, 전력 효율은 1.3배 이상 우수하다. 확장 카드 형태로 출시되는 X330은 고객의 니즈에 따라 컴팩트(Compact)와 프라임(Prime) 두 가지 모델을 선택할 수 있다.

 

X330 컴팩트는 16/8/4bit 정수 연산((INT)만 지원하던 이전 세대(X220)와 달리 16/8bit 부동소수점 연산(FP)이 가능해지면서 8bit 성능이 367 TFLOPS로 4.2배 가량 높아졌으며 GDDR6 메모리를 탑재해 메모리 용량은 2배, 대역폭은 6배가 증가했다. 또한 최신 PCIe Gen5 x16 인터페이스를 지원한다.

소비 전력이 75~120W로 최대 1.8배 가량 증가했으나 성능이 4배 이상 올라갔으므로 와트당 성능으로 보면 훨씬 개선된 거라고 할 수 있다.

 

X330 프라임은 컴팩트의 2배에 해당하는 734 TFLOPS의 성능과 32GB의 GDDR6 메모리, 512GB/s 메모리 대역폭을 갖췄으며 소비 전력은 250W까지 증가했다. 기존 X220 엔터프라이즈와 비교했을 때 동일한 와트 당 성능 향상을 경험할 수 있다.

또한 X330은 동영상 관련 프로그램의 처리 속도 향상을 위해 비디오 코덱 및 포스트 프로세싱 IP를 내장하고 있다. X330에 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다.

다만 최근 출시되는 아키텍처들이 AV1 코덱 지원까지 추가되는 것에 비해 X330 인코더는 H.264, VP8. MPEG-4, MJPEG만 지원하며, 디코더는 여기에 HEVC(H.265)가 추가되는 정도다.

 

사피온의 최고 기술 책임자(CTO)로 합류한 마이클 쉐바노우(Michael C. Shebanow)는 모토로라(Motorola), 사이릭스(Cyrix), AMD, 엔비디아(NVIDIA), 삼성전자까지 다양한 회사를 거치면서 반도체 설계 분야에 종사해왔다.

그는 사피온의 X330이 전작 대비 성능은 4배, 전력 효율성은 2배 향상된 점을 강조하고 기존 GPU보다 X330 시리즈를 사용하는 것이 이산화탄소 절감 효과와 기업의 ESG 달성에 도움이 될 것으로 분석했다.

 

사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 LLM(Large Language Model) 지원을 추가하여, 전반적인 TCO(총소유비용, Total cost of ownership)을 개선함으로써, AI서비스 모델 개발 기업 및 데이터 센터 시장 공략에 적극 나설 계획이다. 사피온은 X330반도체 HW와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 SW Stack을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다. 

 

사피온의 류수정 대표는 X330과 AI 추론용 시장에 집중하고 있는 이유에 대해 전세계 AI용 데이터 센서 규모가 연평균 31%(CAGR) 정도로 증가해 2027년에는 4배까지 늘어나고 AI 추론이 AI 학습 분야보다 성장세와 규모가 훨씬 크다고 밝혔다.

또한 급격히 증가하는 생성형 AI 소프트웨어 시장에서 향상된 메모리 대역폭으로 비용 효율적인 경량화를 지원하며, 앞으로도 고대역폭 메모리(HBM)와 칩렛(Chiplet) 등 다양한 선도 기술을 도입할 계획을 가지고 있다고 언급했다.

 

사피온은 주요 고객사들을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 내년 상반기부터 양산을 시작할 예정이다.

또한 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 엣지 디바이스용 AI NPU 도 선보일 계획이다.

  태그(Tag)  : 사피온, 인공지능, 반도체, 서버, PCI-Express
관련 기사 보기
[영상] 22-23년 GOS사태와 지포스 수율 문제로 고전한 삼성전자 파운드리...,필요한 것은 새로운 모멘텀!
[영상] 2023년 저조했던 삼성전자 실적...,올해는 다를 수밖에 없는 이유? (feat. 다나와)
[영상] 시작된 AI칩 시장의 헤게모니 싸움!,성능의 엔비디아에 맞서는 효율의 반엔당연합(AMD, INTEL, 범클라우드)
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는?
[영상] 월드IT쇼? 월클은 아닌거 같은데요, WIS 2024 현장 취재
[영상] RTX50 4분기출시/SSD 추가 인상설/인텔 아크 무관심/PCIe 7.0 발표,그리고 스냅드래곤X엘리트
태그(Tags) : 사피온, 인공지능, 반도체, 서버, PCI-Express     관련기사 더보기

  이수원 수석기자 / 필명 폭풍전야 / 폭풍전야님에게 문의하기 swlee@bodnara.co.kr
남들 좋다는 것은 다 따라 하지만 정작 깊게 파고들지는 못하는 성격이다. 정말 좋아하는 일은 취미로 하랬는데, 어쩌다 직업이 되는 바람에 일과 지름이 일심동체인 삶을 살고 있다.
기자가 쓴 다른 기사 보기

Creative Commons License 보드나라의 기사는 저작자표시-비영리-변경금지 2.0 대한민국 라이선스에 따라 이용할 수 있습니다. Copyright ⓒ 넥스젠리서치(주) 보드나라 미디어국
싸이월드 공감 기사링크 퍼가기 기사내용 퍼가기 이 기사를 하나의 페이지로 묶어 볼 수 있습니다. 출력도 가능합니다.
홈으로 탑으로
보드나라 많이본 기사
ASRock, DT용 풀사이즈 VGA 쓰는 미니 PC 데스크메이트 X600 출시
밸브, 스팀의 지배적 지위 남용 혐의로 영국서 소송 직면
유튜브, 광고 차단기 무력화 위해 서버단의 광고 삽입 테스트 중
가민, 스마트워치에서 '유튜브 뮤직' 지원
전력 공급 공식 스펙 조건에서 게임 성능은?, AMD와 인텔 CPU 4종 비교
새로운 시대에 새로운 도전, 치지직을 위한 원컴 방송용 PC 구성
B760이 이것도? 실속형 고급 메인보드,ASUS TUF GAMING B760M-PLUS II 코잇
21년만의 3D 전장 전략 시뮬레이션 후속작, 홈월드3는 어떤 게임?
   이 기사의 의견 보기
트위터 베타서비스 개시! 최신 PC/IT 소식을 트위터를 통해 확인하세요 @bodnara

기자의 시각이 항상 옳은것은 아닙니다. 나머지는 여러분들이 채워 주십시요.

2014년부터 어려운 이야기를 쉽게 하는 것으로 편집방침을 바꿉니다.
닉네임 웹봇방지

홈으로 탑으로
 
 
2024년 06월
주간 히트 랭킹

[결과발표] 2024년 1분기 포인트 소진 로또 16
[결과발표] 2023년 4분기 포인트 소진 로또 23
[결과발표] 2023년 3분기 포인트 소진 로또 16
[결과발표] 2023년 2분기 포인트 소진 로또 18
[결과발표] 2023년 1분기 포인트 소진 로또 15

실시간 댓글
소셜 네트워크