AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr, CEO 젠슨 황)가 엔비디아 AI 엔터프라이즈(Enterprise) 소프트웨어 제품군 3.0을 발표했다. 새로운 엔비디아 AI 엔터프라이즈 소프트웨어는 일찍이 AI를 도입한 기업부터 새롭게 그 도입을 계획하고 있는 기업까지 광범위한 영역과 산업별 워크로드에 걸쳐 전 세계 기업들을 지원한다.
지난 수년간, 기업들은 급변하는 수요부터 인력난, 공급망 복잡성을 비롯한 수많은 과제를 해결해왔다. 2023년 강력한 도약을 준비하는 많은 기업들은 비용을 절감하면서 동시에 성장을 견인하기 위해 AI와 가속 컴퓨팅의 사용을 계획하고 있다.
엔비디아 AI 엔터프라이즈 3.0은 컨택 센터 지능형 가상 비서, 음성 전사(transcription), 사이버보안 디지털 지문 채취를 위한 솔루션 워크플로를 도입한다. 이들은 보다 나은 고객 서비스를 제공하고자 흔히 사용되는 AI 채택 기업용 애플리케이션이다.
또한 엔비디아 AI 엔터프라이즈 3.0은 엔비디아 NGC 소프트웨어 카탈로그에서 제공되는 50가지 이상의 엔비디아 AI 소프트웨어 프레임워크 및 사전 훈련된 모델에 대한 지원을 확장한다. 이를 통해 전 세계 단체들의 AI 구축을 강화하고 간소화할 수 있다. 엔비디아 AI 엔터프라이즈 3.0은 이번 달 말 출시 예정이다.
도이치은행, 엔비디아와 함께 혁신 파트너십 발표
도이치은행이 금융 서비스에 AI 도입을 가속화하기 위해 엔비디아와 파트너십 체결을 발표했다. 업계 내 AI 기반 음성, 비전, 사기 탐지 애플리케이션 개발을 위한 전략의 일환으로 이루어진 이번 파트너십 체결에 따라 새로운 소프트웨어의 출시가 시작됐다.
도이치은행의 최고 혁신 책임자 겸 클라우드 및 혁신 네트워크 담당자인 길 페레즈(Gil Perez)는 “AI와 머신러닝은 뱅킹을 재정의할 것이다. 도이치은행은 이미 엔비디아와 긴밀히 협력하여 이러한 기술을 통해 고객 서비스를 개선하고 위험을 완화하고 있다. 거래자는 가속 컴퓨팅을 통해 에너지 효율성을 개선하는 동시에 위험을 관리하고 보다 많은 시나리오를 빠르게 실행할 수 있다. 한편 엔비디아 AI 엔터프라이즈는 하이브리드 인프라 전반에서 AI 개발을 지원할 수 있는 유연성을 제공한다"고 말했다.
엔비디아 AI 엔터프라이즈는 AI 실무자를 위한 동급 최고의 개발 도구, 프레임워크 및 사전 훈련된 모델을 포함하고 있다. 또한 IT 전문가를 위한 신뢰할 수 있는 관리 및 조정 기능이 포함되어 성능, 높은 가용성 및 보안을 보장한다.
사업의 성공을 가속화하는 새로운 엔비디아 AI 엔터프라이즈 워크플로
조직은 안전하고 클라우드에 최적화된 최신 버전의 AI 소프트웨어를 통해 운영 효율성을 높이는 동시에 당면한 비즈니스 과제를 해결할 수 있다. AI 소프트웨어는 데이터 사이언스 파이프라인을 가속화하고 AI 모델의 개발 및 배치를 간소화하여 필수 프로세스를 자동화하고 데이터로부터 신속한 통찰력을 얻는다.
엔비디아 AI 엔터프라이즈 3.0의 컨택 센터 지능형 가상 비서, 음성 전사 및 사이버 보안 디지털 지문 채취를 위한 새로운 AI 워크플로는 엔비디아의 전문 지식을 활용하여 개발 시간 및 비용을 줄임으로써 구축에 소요되는 시간을 단축한다.
워크플로는 헬름(Helm) 차트, 주피터(Jupyter) 노트북 등을 비롯하여 엔비디아 프레임워크와 사전 훈련된 모델을 사용하는 클라우드에 최적화된 마이크로서비스로 구동된다. 기업들은 마이크로서비스(microservice)를 독립형 쿠버네티스(Kubernetes) 컨테이너로 활용하거나 기타 서비스와 결합하여 보다 높은 정확도와 성능을 갖춘 프로덕션-레디(production-ready) 애플리케이션을 생성할 수 있다.
기업들은 엔비디아 컨택 센터 지능형 가상 비서 AI 워크플로를 통해 24시간 내내 고객에게 응답함으로써 대기시간을 줄일 수 있다. 또한 컨택 센터 에이전트가 보다 복잡한 문의에 대응할 수 있도록 시간을 벌어준다. 중요한 것은, 이 모든 것이 비용 절감과 동시에 일어난다는 것이다. 기업들은 워크플로를 통해 자연스러운 목소리로 정확하면서도 맞춤화 된 응답을 제공하는 에이전트를 개발할 수 있다. AI 기술을 활용하면 에이전트들은 음성 품질이 떨어지는 통화에서도 고객의 응답을 정확하게 듣고 이해할 수 있다.
엔비디아 음성 전사 AI 워크플로를 사용하면, 기업들은 엔비디아의 자동 음성인식 기술을 통해 영어, 스페인어, 중국어, 인도어, 러시아어, 한국어, 독일어, 프랑스어 그리고 포르투갈어로 정확한 대본을 신속하게 작성할 수 있으며 조만간 일본어, 아랍어, 이탈리아어가 추가될 예정이다. 음성 전사 워크플로는 완전한 사용자화가 가능한 GPU 최적화 모델을 사용하여 실시간의 정확도로 보다 나은 이해, 맥락에 대한 통찰력, 감정 분석을 가능케 한다. 음성 전사가 완료되면 기업들은 이를 통해 제품 개발을 개선하고 컨택 센터 에이전트의 교육에 속도를 낼 수 있다.
비지도 학습(unsupervised learning)을 사용하는 엔비디아 디지털 지문 AI 워크플로는 위협 탐지 기능을 통해 포괄적인 데이터 가시성을 달성한다. 또한 기업이 네트워크를 통해 모든 사용자, 서비스, 계정 및 컴퓨터를 고유하게 지문 인식하여 비정상적인 동작을 탐지할 수 있도록 지원함으로써 보안을 향상시킨다. 워크플로우는 지능적인 경고와 실행 가능한 정보를 제공하여 기존에 몇 주 가까이 소요되던 탐지시간을 분(分) 단위까지 단축한다. 따라서 보안 분석가는 위협을 신속하게 식별하고 대응할 수 있다.
설명 가능성과 이해를 돕는 사전 훈련 모델
엔비디아 AI 엔터프라이즈 3.0은 암호화되지 않은 사전 훈련 모델과 최신 버전의 엔비디아 타오 툴킷(TAO Toolkit)의 소스 코드를 제공한다. 엔비디아 타오 툴킷은 고도의 정확성을 갖춘 맞춤형, 프로덕션 레디(production-ready) AI 모델을 만들기 위한 로코드(low-code) AI 개발 솔루션으로, 음성 및 컴퓨터 비전 AI 애플리케이션에 사용된다.
암호화되지 않은 모델은 엔비디아 AI 엔터프라이즈에서만 사용할 수 있으며 병리 종양 감지, 사람 감지, 차량 감지, 자세 추정, 동작 인식 등 의료와 스마트 시티, 유통 산업을 위한 다양한 이미징 및 비전 AI 작업을 지원한다.
암호화 없이 사전 훈련된 모델을 사용하면 개발자가 모델의 가중치와 편향을 볼 수 있어 모델 설명 가능성과 모델 편향 이해에 도움이 된다. 또한 암호화되지 않은 모델은 보다 쉬운 디버그(debug)와 맞춤형 AI 애플리케이션에 대한 통합이 가능하다.
엔비디아 AI 엔터프라이즈 3.0이 지원하는 광범위한 엔비디아 AI 프레임워크와 인프라 옵션은 아래와 같다:
• 헬스케어를 증진하는 엔비디아 클라라 파라브릭스(Clara Parabricks)와 MONAI(AI를 위한 메디컬 오픈 네트워크. Medical Open Network for AI): 엔비디아 클라라 파라브릭스에 대한 새로운 지원을 통해 시퀀싱 센터, 임상 실험실, 유전체학 연구자 및 유전체학 기기 제조업체에 대해 보다 빠르고 정확한 유전체 분석이 가능하다. 또한 엔비디아 AI 엔터프라이즈는 영역별 의료 영상 AI 프레임워크인 MONAI를 지원한다. MONAI는 사전 훈련된 모델과 데이터 레이블링, 강력한 AI 모델 훈련을 위해 협업과 확장이 가능한 워크플로를 제공한다.
• 고객 서비스, 안전, 판매 등을 촉진하는 엔비디아 AI 프레임워크: 현재 엔비디아 AI 엔터프라이즈 3.0가 지원하는 50개 이상의 프레임워크와 사전 훈련된 모델은 엔비디아 리바(Riva)를 포함하고 있다. 엔비디아 리바는 GPU 가속 음성 AI 소프트웨어 개발 키트로, 온프레미스(on premise)와 엣지, 임베디드 장치의모든 주요 클라우드에서 세계 최고 수준의 정확성을 제공한다. 이를 통해 완전한 사용자화가 가능한 실시간 AI 파이프라인을 구축하고 배포할 수 있다. 한편 사이버 보안 개발자들은 엔비디아 모르페우스(Morpheus)를 사용하여 대량의 실시간 데이터의 필터링, 처리 및 분류에 최적화된 AI 파이프라인을 만들 수 있다. 비전 AI용 타오 툴킷과 엔비디아 딥스트림(DeepStream)과 같은 엔비디아 메트로폴리스(Metropolis) 지능형 비디오 분석 플랫폼의 SDK가 지원되며, 규모에 맞게 고성능 추천 시스템을 구축하는 엔비디아 멀린(Merlin) 오픈 소스 프레임워크 역시 지원된다.
• 클라우드에 대한 인증 확대: 엔비디아 AI 엔터프라이즈 3.0을 통해 하이브리드 클라우드 전략을 사용하는 조직은 오라클 클라우드(Oracle Cloud Infrastructure)의 GPU 가속 인스턴스에서 소프트웨어를 유연하게 실행할 수 있게 된다. 엔비디아의 채널 파트너를 통해 라이센스를 구입한 고객은 지정된 OCI 인스턴스에서 엔비디아의 전체 인증 및 지원을 받아 OCI에 구축할 수 있다. 이는 아마존웹서비스(Amazon Web Services), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure) 상의 가속 인스턴스에 대한 기존 엔비디아 AI 엔터프라이즈 인증에 이어 새롭게 추가된 것이다.
• 하이브리드 데이터 센터에 대한 AI 지원을 확장하는 휴렛 팩커드(Hewlett Packard)와 엔비디아: 휴렛 팩커드(이하 HPE)와 엔비디아는 HPE 그린레이크(GreenLake)와 에즈메랄(Ezmeral)에서 엔비디아 AI 엔터프라이즈 3.0을 지원하는 공동 제품을 출시한다. 해당 솔루션을 통해 고객들은 관리되는 HPE 그린레이크 인스턴스에서 엔비디아 AI 엔터프라이즈를 쉽게 조달하고 배포하여 안전하게 AI 애플리케이션 개발 속도를 높일 수 있다.
• 확장된 저장공간 및 가상화 지원: 엔비디아 AI 엔터프라이즈 3.0이 엔비디아 매그넘(Magnum) IO GDS(GPUDirect Storage)의 지원을 시작한다. 엔비디아 매그넘 IO GDS는 로컬 또는 원격 저장공간과 GPU 메모리 간에 직접 데이터 경로를 제공하여 AI 워크로드 속도를 가속한다. 또한 KVM이 포함된 레드햇 엔터프라이즈 리눅스(Red Hat Enterprise Linux)와 VM웨어 v스피어(VMware vSphere) 8을 비롯한 확장된 가상화 옵션을 제공한다.
엔비디아 AI 엔터프라이즈 3.0은 이달 말 기존 및 신규 가입 고객을 대상으로 출시될 예정이다. 가격은 전 세계 엔비디아 파트너에게 문의할 수 있다. 엔비디아 AI 엔터프라이즈 라이선스는 델테크놀로지스(Dell Technologies), 휴렛 팩커드, 레노보(Lenovo), 슈퍼마이크로(Supermicro) 등 엔비디아 H100 PCIe GPU를 사용하는 엔비디아 파트너의 서버에도 포함돼 있다.
기업들은 엔비디아 런치패드(LaunchPad)에서 무료로 제공되는 엔비디아 AI 엔터프라이즈의 엔비디아 AI 워크플로 및 프레임워크를 통해 AI 전문성을 높일 수 있다.
관련 영상
엔비디아 AI 엔터프라이즈로 프로덕션 레디 AI 가속화하기: https://youtu.be/NVRCXI1KceU
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
