엔비디아가 새로운 쿠다-X AI 라이브러리(CUDA-X AI libraries)를 공개했다. 데이터 분석과 머신 러닝, 딥 러닝(Deep Learning)을 연구하는 데이터 사이언티스트는 이를 통해 엄청난 속도 향상을 경험할 수 있다.
텐서(Tensor) 코어 GPU의 유연성을 활용하는 쿠다-X는 다음의 데이터 사이언스를 가속화한다.
• 데이터 처리부터 ETL, 모델 트레이닝, 배포에 이르는 데이터 사이언스
• 회귀, 분류, 클러스터링을 위한 머신 러닝 알고리즘
• 모든 딥 러닝 트레이닝 프레임워크, 이번 발표로 엔비디아 텐서 코어 GPU가 자동 최적화됨
• 클라우드 내 추론과 대규모 쿠버네티스(Kubernetes) 배포
• PC와 워크스테이션, 슈퍼컴퓨터 클라우드, 엔터프라이즈 데이터 센터 내 데이터 사이언스
• 아마존웹서비스(AWS)와 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure) AI 서비스 내 데이터 사이언스
• 그 외 데이터 사이언스
엔비디아 GPU 기술 컨퍼런스에서 소개된 쿠다-X AI는 유일한 데이터 사이언스 가속화 전용 엔드-투-엔드 플랫폼이다. 기업들이 딥 러닝, 머신 러닝, 데이터 분석 등 AI를 적용해 데이터 활용도를 높이려는 움직임이 활발해지고 있는 가운데, 쿠다-X AI는 이러한 요구사항을 충족시키도록 설계됐다. 이 모든 워크플로우는 데이터 처리, 기능 결정, 트레이닝, 검증, 배포 순으로 진행된다.
쿠다-X AI는 엔비디아 텐서 코어 GPU의 유연성을 통해 엔드-투-엔드 AI 파이프라인을 고유의 방법으로 해결한다. 머신 러닝과 데이터 사이언스 워크로드 속도를 최대 50배 향상시키는 쿠다-X AI는 12개 이상의 특수 가속 라이브러리로 구성된다.
이는 이미 cuDF로 데이터 분석을 하며, cuDNN로 딥 러닝 원시 데이터를 분석한다. 또한, cuML로 머신 러닝 알고리즘을 분석하고, DALI로 데이터 처리를 가속화하고 있다. 이 모든 라이브러리가 한데 모여 일반적 AI 워크플로우의 단계를 가속화한다.
이 라이브러리는 딥 러닝을 활용한 스피치 및 이미지 인식 시스템 트레이닝, 데이터 분석을 활용한 모기지 포트폴리오 위험 프로파일 평가 등을 포함한 다양한 작업에 적용된다. 이러한 워크플로우의 각 단계에서는 대용량 데이터 처리가 필요하며, 각 단계는 GPU 가속 컴퓨팅을 통해 이점을 얻는다.
차터 (Charter), 마이크로소프트 (Microsoft), 페이팔 (PayPal), SAS, 월마트 (Walmart)와 같은 주요 기업들은 쿠다-X AI를 채택했다. 이는 텐서플로(TensorFlow)와 파이토치(PyTorch), MXNet 등의 주요 딥 러닝 프레임워크에도 통합됐다.
주요 글로벌 클라우드 서비스 제공업체도 자사 클라우드 서비스 가속화에 쿠다-X AI를 사용한다. 현재 전 세계 주요 컴퓨터 제조사 8곳이 엔비디아 쿠다-X AI 라이브러리를 실행하도록 최적화된 데이터 사이언스 워크스테이션과 서버를 선보일 것이라고 발표했다.
쿠다-X AI 가속 라이브러리는 엔비디아 NGC 소프트웨어 허브에서 개별 다운로드 하거나 컨테이너화된 소프트웨어 스택에서 무료로 사용할 수 있다. 이는 데스크톱, 워크스테이션, 서버, 클라우드 컴퓨팅 플랫폼 등 어디에나 구축될 수 있다.
또한, GTC에서 발표된 모든 데이터 사이언스 워크스테이션에 통합돼 있으며, 모든 엔비디아 T4 서버도 쿠다-X AI 실행에 최적화 돼있다. 보다 자세한 정보는 https://www.nvidia.com/en-us/technologies/cuda-x에서 확인할 수 있다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
