리뷰
 





 
 
 




메인
전송 2023-11-16 15:46
[취재]

데이터센터 겨냥 4배 빨라진 AI 추론 성능
사피온 X330 발표 기자간담회

글로벌 AI 반도체 기업 사피온(SAPEON)이 데이터센터용 AI 반도체 'X330'을 발표했다.

사피온은 2022년 SK텔레콤에서 스핀오프하여 AI 반도체 글로벌 시장 공략에 주력하고 있는 팹리스 기업으로 SK ICT연합(SK텔레콤, SK하이닉스, SK스퀘어)의 협력의 첫 결과물이다.

사피온은 지난 11월 15일 오후 SK T-타워 4층 SUPEX HALL에서 국내 미디어들을 대상으로 기자간담회를 개최하고 전작 대비 속도가 4배 향상된 데이터센터용 AI 반도체 X330을 출시한다고 밝혔다.

 

사피온 X330은 추론용 NPU로서 전작인 X220에 비해 응용범위가 표준 기술 기반 하에 대폭 확대되었다. 따라서 보다 다양한 분야와 산업군에서 손쉽게 활용할 수 있는 NPU다. AI 추론을 위한 최고 수준 연산기, 초저전력 설계, 초고속 I/O, 그리고 거대 언어 모델(Large Language Model, LLM) 지원을 특징으로 한다.

TSMC 7nm 공정을 기반으로 하는 X330은 전작인 X220 대비 4배 이상의 연산 성능, 2배 이상의 전력 효율을 확보하여 경쟁사의 5nm 제품 대비 연산 성능이 약 2배, 전력 효율은 1.3배 이상 우수하다. 확장 카드 형태로 출시되는 X330은 고객의 니즈에 따라 컴팩트(Compact)와 프라임(Prime) 두 가지 모델을 선택할 수 있다.

 

X330 컴팩트는 16/8/4bit 정수 연산((INT)만 지원하던 이전 세대(X220)와 달리 16/8bit 부동소수점 연산(FP)이 가능해지면서 8bit 성능이 367 TFLOPS로 4.2배 가량 높아졌으며 GDDR6 메모리를 탑재해 메모리 용량은 2배, 대역폭은 6배가 증가했다. 또한 최신 PCIe Gen5 x16 인터페이스를 지원한다.

소비 전력이 75~120W로 최대 1.8배 가량 증가했으나 성능이 4배 이상 올라갔으므로 와트당 성능으로 보면 훨씬 개선된 거라고 할 수 있다.

 

X330 프라임은 컴팩트의 2배에 해당하는 734 TFLOPS의 성능과 32GB의 GDDR6 메모리, 512GB/s 메모리 대역폭을 갖췄으며 소비 전력은 250W까지 증가했다. 기존 X220 엔터프라이즈와 비교했을 때 동일한 와트 당 성능 향상을 경험할 수 있다.

또한 X330은 동영상 관련 프로그램의 처리 속도 향상을 위해 비디오 코덱 및 포스트 프로세싱 IP를 내장하고 있다. X330에 내장된 하드웨어 IP를 통해 4채널 4K 60fps 동영상 입력 처리가 가능하다.

다만 최근 출시되는 아키텍처들이 AV1 코덱 지원까지 추가되는 것에 비해 X330 인코더는 H.264, VP8. MPEG-4, MJPEG만 지원하며, 디코더는 여기에 HEVC(H.265)가 추가되는 정도다.

 

사피온의 최고 기술 책임자(CTO)로 합류한 마이클 쉐바노우(Michael C. Shebanow)는 모토로라(Motorola), 사이릭스(Cyrix), AMD, 엔비디아(NVIDIA), 삼성전자까지 다양한 회사를 거치면서 반도체 설계 분야에 종사해왔다.

그는 사피온의 X330이 전작 대비 성능은 4배, 전력 효율성은 2배 향상된 점을 강조하고 기존 GPU보다 X330 시리즈를 사용하는 것이 이산화탄소 절감 효과와 기업의 ESG 달성에 도움이 될 것으로 분석했다.

 

사피온은 향상된 성능 및 전력효율을 제공하는 X330을 통해 LLM(Large Language Model) 지원을 추가하여, 전반적인 TCO(총소유비용, Total cost of ownership)을 개선함으로써, AI서비스 모델 개발 기업 및 데이터 센터 시장 공략에 적극 나설 계획이다. 사피온은 X330반도체 HW와 함께 서버 장착시 성능을 최적화할 수 있는 ONNX(개방형 신경망 교환, Open Neural Network Exchange) 기반의 SW Stack을 지원하며, AI 추론 플랫폼 소프트웨어 및 SDK(소프트웨어 개발 도구)도 함께 제공한다. 

 

사피온의 류수정 대표는 X330과 AI 추론용 시장에 집중하고 있는 이유에 대해 전세계 AI용 데이터 센서 규모가 연평균 31%(CAGR) 정도로 증가해 2027년에는 4배까지 늘어나고 AI 추론이 AI 학습 분야보다 성장세와 규모가 훨씬 크다고 밝혔다.

또한 급격히 증가하는 생성형 AI 소프트웨어 시장에서 향상된 메모리 대역폭으로 비용 효율적인 경량화를 지원하며, 앞으로도 고대역폭 메모리(HBM)와 칩렛(Chiplet) 등 다양한 선도 기술을 도입할 계획을 가지고 있다고 언급했다.

 

사피온은 주요 고객사들을 대상으로 X330 시제품 테스트와 고객사들과 신뢰성 검증 작업을 진행하고 내년 상반기부터 양산을 시작할 예정이다.

또한 이번에 출시한 데이터센터용 AI 반도체인 X330과 함께, 향후 자율주행 자동차용 IP(반도체 설계자산), CCTV 등 고성능 엣지 디바이스용 AI NPU 도 선보일 계획이다.

  태그(Tag)  : 사피온, 인공지능, 반도체, 서버, PCI-Express
관련 기사 보기
[영상] 반도체 공룡이 된 엔비디아, AI/서버시장의 미래는 순탄할까? [NVIDIA 이야기 1부]
[영상] 인텔은 과거에 어떤 위기를 어떻게 넘겼나?,창업자 앤드류 그로브의 눈으로 본 인텔의 현재
[프리뷰] PC 부품으로 서버/워크스테이션 구축, 슈퍼마이크로 X13SAQ/X13SAZ-Q STCOM
[취재] 에픽게임즈 팀 스위니 대표, AI보다 메타버스에 집중하겠다
[뉴스] AWS-엔비디아, 생성형 AI 위한 새로운 슈퍼컴퓨팅 인프라·소프트웨어·서비스 제공 발표
[뉴스] 샘 올트먼, OpenAI 복귀 공식 발표.. 마이크로소프트도 참관인으로 이사회 포함
태그(Tags) : 사피온, 인공지능, 반도체, 서버, PCI-Express     관련기사 더보기

  이수원 수석기자 / 필명 폭풍전야 / 폭풍전야님에게 문의하기 swlee@bodnara.co.kr
남들 좋다는 것은 다 따라 하지만 정작 깊게 파고들지는 못하는 성격이다. 정말 좋아하는 일은 취미로 하랬는데, 어쩌다 직업이 되는 바람에 일과 지름이 일심동체인 삶을 살고 있다.
기자가 쓴 다른 기사 보기

Creative Commons License 보드나라의 기사는 저작자표시-비영리-변경금지 2.0 대한민국 라이선스에 따라 이용할 수 있습니다. Copyright ⓒ 넥스젠리서치(주) 보드나라 미디어국
싸이월드 공감 기사링크 퍼가기 기사내용 퍼가기 이 기사를 하나의 페이지로 묶어 볼 수 있습니다. 출력도 가능합니다.
홈으로 탑으로
보드나라 많이본 기사
삼성 갤럭시 Z 폴드 6 커버 화면 더 커질 것, Z 폴드 6도?
AMD 라이젠 8000G 시리즈, 스펙과 출시일 유출?
AMD Ryzen Z1 미니 PC 등장, GPU 성능은 Z1 Extreme 약 절반?
홈월드 3 시스템 사양 발표, 최고 옵션은 14900K와 RTX 4080 현 최강급 PC 요구
인텔 하이브리드 CPU 등장 3년차에 아직도, 일부 몰의 코어 표기 이대로 좋은가?
최신 CPU로 즐기는 최신 게임,인텔 코어 i7-14700K의 성능은?
글로벌 셔터 풀프레임 미러리스로 왜곡 없는 촬영을, 소니 a9 III 발표
닌텐도 스위치 전략 따라가나, 밸브 스팀 덱 OLED 발표
   이 기사의 의견 보기
트위터 베타서비스 개시! 최신 PC/IT 소식을 트위터를 통해 확인하세요 @bodnara

기자의 시각이 항상 옳은것은 아닙니다. 나머지는 여러분들이 채워 주십시요.

2014년부터 어려운 이야기를 쉽게 하는 것으로 편집방침을 바꿉니다.
닉네임 웹봇방지

홈으로 탑으로
 
 
2023년 12월
주간 히트 랭킹

[결과발표] 2023년 3분기 포인트 소진 로또 16
[결과발표] 2023년 2분기 포인트 소진 로또 18
[결과발표] 2023년 1분기 포인트 소진 로또 15
[결과발표] 2022년 4분기 포인트 소진 로또 27
[결과발표] 2022년 3분기 포인트 소진 로또 24

실시간 댓글
소셜 네트워크