AI 컴퓨팅 기술 분야의 선두주자인 엔비디아는 세계 최고 스토리지, 서버 제조업체들이 자사의 설계, 엔지니어링 전문기술을 엔비디아 AI 데이터 플랫폼(NVIDIA AI Data Platform)과 결합하고 있다고 밝혔다. 엔비디아 AI 데이터 플랫폼은 새로운 형태의 AI 인프라를 구축하기 위한 맞춤형 참조 설계로, 차세대 에이전틱 AI 애플리케이션과 도구를 구현한다.
이 참조 설계는 전 세계 스토리지 시스템 선도기업들이 AI 추론 에이전트를 지원하고 기업이 사용하는 수백만 건의 문서, 동영상, PDF에 저장된 정보를 발굴하는 데 활용되고 있다.
엔비디아 인증 스토리지(NVIDIA-Certified Storage) 파트너는 엔비디아 AI 가속 컴퓨팅, 네트워킹, 소프트웨어를 포함하는 엔비디아 AI 데이터 플랫폼에 기반한 제품과 솔루션을 선보이고 있다. 이 파트너에는 DDN, 델 테크놀로지스(Dell Technologies), 휴렛팩커드 엔터프라이즈(Hewlett Packard Enterprise, HPE), 히타치 밴타라(Hitachi Vantara), IBM, 넷앱(NetApp), 뉴타닉스(Nutanix), 퓨어스토리지(Pure Storage), 바스트 데이터(VAST Data), 웨카(WEKA)가 있다.
또한 AIC, 에이수스(ASUS), 폭스콘(Foxconn), 퀀타 클라우드 테크놀로지(Quanta Cloud Technology, QCT), 슈퍼마이크로(Supermicro), 위스트론(Wistron)과 기타 제조자 개발 생산 업체(Original Design Manufacturer, ODM)들은 엔비디아 참조 설계를 지원하는 새로운 스토리지, 서버 하드웨어 플랫폼을 개발 중이다. 이들 플랫폼은 엔비디아 RTX PRO 6000 블랙웰 서버 에디션(Blackwell Server Edition) GPU, 엔비디아 블루필드(BlueField) DPU, 엔비디아 스펙트럼-X(Spectrum-X) 이더넷(Ethernet) 네트워킹을 지원한다. 동시에 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어를 실행하도록 최적화돼 있다.
산업 전반의 기업들은 이와 같은 통합 기술을 통해 대규모 개인, 공공 문서를 실시간으로 스캔, 색인, 분류, 검색하는 스토리지와 데이터 플랫폼을 빠르게 구축할 수 있다. 그 결과로 AI 에이전트는 추론과 계획 기능이 강화돼, 복잡한 다단계 문제를 해결할 수 있다.
이와 같은 새로운 AI 데이터 플랫폼 기반 솔루션으로 에이전틱 AI 인프라를 구축하면, 기업은 검색 증강 생성(retrieval-augmented generation, RAG) 소프트웨어를 사용해 데이터를 실행 가능한 지식으로 전환할 수 있다. 여기에는 엔비디아 네모 리트리버(NeMo Retriever) 마이크로서비스와 AI-Q 엔비디아 블루프린트(Blueprint)가 포함된다.
엔비디아 AI 데이터 플랫폼 참조 설계로 구축된 스토리지 시스템은 데이터를 지식으로 전환해 다양한 분야에서 에이전틱 AI의 정확도를 향상시킨다. 이를 통해 AI 에이전트와 고객 서비스 담당자는 더욱 빠르고 정확한 응답을 제공할 수 있다.
또한 데이터에 대한 액세스가 용이해지면서, 에이전트는 모든 연구자를 위해 복잡한 문서와 동영상에 대한 대화형 요약을 생성할 수 있다. 동시에 사이버 보안 팀이 소프트웨어 보안을 유지하는 데 도움을 줄 수 있다.
스토리지 선도기업, 에이전틱 AI 지원하는 AI 데이터 플랫폼 공개
스토리지 시스템 선도기업은 AI 에이전트를 실행하는 AI 인프라를 제공하는 데 중요한 역할을 한다.
엔비디아 GPU, 네트워킹, NIM 마이크로서비스를 스토리지와 가깝게 임베드하면 컴퓨팅을 중요 콘텐츠와 밀접한 곳에 배치할 수 있어 AI 쿼리를 향상시킬 수 있다. 또한 스토리지 제공업체가 자사의 문서 보안, 액세스 제어 기술을 콘텐츠 색인과 검색 단계에 통합할 수 있게 됨에 따라, AI 추론 과정에서 보안과 데이터 프라이버시 보호 수준을 높일 수 있다.
IBM, 넷앱, 바스트 데이터와 같은 데이터 플랫폼 선도기업들은 엔비디아 참조 설계를 사용해 AI 기술을 확장하고 있다.
IBM 퓨전(Fusion)은 레드햇 오픈시프트(Red Hat OpenShift)에서 가상 머신, 쿠버네티스(Kubernetes), AI 워크로드를 실행하는 하이브리드 클라우드 플랫폼이다. 이는 콘텐츠 인식 스토리지 서비스를 제공해 비정형 기업 데이터의 의미를 파악하고 추론을 강화한다. 이를 통해 AI 어시스턴트와 에이전트가 더 정확하고 관련성 높은 답변을 제공하도록 지원한다. 콘텐츠 인식 스토리지는 엔비디아 GPU, 엔비디아 네트워킹, AI-Q 엔비디아 블루프린트, 엔비디아 네모 리트리버 마이크로서비스와 결합해, RAG를 사용하는 AI 애플리케이션의 인사이트 도출 시간을 단축할 수 있다. 이들은 모두 엔비디아 AI 데이터 플랫폼에 속한다.
넷앱은 엔비디아 참조 설계로 구축된 넷앱 AI팟(AIPod) 솔루션을 통해 에이전틱 AI용 엔터프라이즈 스토리지를 발전시키고 있다. 넷앱은 엔비디아 GPU를 데이터 컴퓨팅 노드에 통합해 엔비디아 네모 리트리버 마이크로서비스를 실행한다. 동시에 엔비디아 네트워킹을 통해 이들 노드를 확장 가능한 스토리지에 연결한다.
바스트 데이터는 바스트 데이터 플랫폼에 엔비디아 AI-Q를 임베드해, 지능형 다중 에이전트 시스템의 구축, 확장이 가능한 통합 AI 네이티브 인프라를 제공한다. 고속 데이터 액세스, 엔터프라이즈급 보안, 지속적인 학습 루프를 통해 조직은 스마트한 의사결정, 복잡한 업무 처리의 자동화, 새로운 차원의 생산성을 실현하는 에이전틱 AI 시스템을 운영할 수 있다.
ODM 업체, AI 데이터 플랫폼 하드웨어를 기반으로 혁신 중
ODM 업체들은 서버, 스토리지 설계와 제조에 대한 풍부한 경험을 바탕으로 스토리지 선도기업들과 협력에 나섰다. 이를 통해 혁신적인 AI 데이터 플랫폼 하드웨어를 기업에 더욱 빠르게 공급하고 있다.
ODM 업체들은 섀시 설계, GPU 통합, 냉각 혁신, 스토리지 매체 연결 등을 제공한다. 이에 따라 신뢰성 높고 콤팩트하며, 에너지 효율적이면서도 경제적인 AI 데이터 플랫폼 서버를 구축하고 있다.
ODM 업계의 상당수는 대만에 본사를 두고 있거나 현지에 위치한 제조업체들로 구성돼 있다. 따라서 대만은 확장 가능한 에이전틱 AI와 추론, AI 사고를 실행하는 하드웨어 제공에 있어 핵심 허브로 떠오르는 중이다.
대만 타오위안에 본사를 둔 AIC는 엔비디아 블루필드 DPU 기반의 플래시 스토리지 서버를 구축하고 있다. 엔비디아 블루필드 DPU는 기존 스토리지 설계보다 높은 처리량과 전력 효율을 제공한다. 이러한 어레이(array)는 여러 AI 데이터 플랫폼 기반 설계에 적용되고 있다.
에이수스는 웨카, IBM과 협력해 AI와 고성능 컴퓨팅 워크로드를 위한 차세대 통합 스토리지 시스템을 선보였다. 이는 광범위한 스토리지 요구 사항을 해결한다. 웨카 인증을 받은 소프트웨어 정의 스토리지 솔루션인 RS501A-E12-RS12U는 기존 하드웨어 한계를 극복해 뛰어난 유연성을 자랑한다. 이는 파일, 오브젝트, 블록 스토리지는 물론 올플래시, 계층화, 백업 기능까지 모두 지원해 다양하게 활용될 수 있다.
대만 신베이에 본사를 둔 폭스콘은 제조업에서 사용되는 AI 데이터 플랫폼 솔루션용 가속 서버와 스토리지 플랫폼을 제작한다. 폭스콘의 자회사인 인그라시스(Ingrasys)는 AI 데이터 플랫폼을 지원하는 엔비디아 가속 GPU 서버를 제공한다.
슈퍼마이크로는 엔비디아 참조 설계를 사용해 엔비디아 그레이스 CPU 슈퍼칩(Grace CPU Superchip) 또는 블루필드-3 DPU로 구동되는 지능형 올플래시 스토리지 어레이를 구축하고 있다. 슈퍼마이크로 페타스케일 JBOF(Petascale JBOF)와 페타스케일 올플래시 어레이 스토리지 서버(All-Flash Array Storage Server)는 소프트웨어 정의 스토리지 공급업체와 함께 고성능, 고전력 효율을 제공하며, 이는 AI 데이터 플랫폼 솔루션과 호환된다.
또한 대만에 본사를 둔 퀀타 클라우드 테크놀로지는 엔비디아 GPU, 네트워킹이 통합된 가속 서버와 스토리지 어플라이언스를 설계, 구축 중이다. 이 제품군은 엔비디아 AI 엔터프라이즈 소프트웨어 실행과 AI 데이터 플랫폼 솔루션을 지원하는 데 최적화돼 있다.
대만 타이베이에 본사를 둔 위스트론(Wistron)과 위윈(Wiwynn)은 AI 데이터 플랫폼과 호환되는 혁신적인 하드웨어 설계를 제공하고 있다. 여기에는 엔비디아 GPU, 엔비디아 블루필드 DPU, 엔비디아 이더넷 슈퍼NIC(SuperNIC)이 통합된다.
[영상] 엔비디아와 그래픽카드 제조를 '따위' 취급한 댓가를 치르는, 한국 AI 하드웨어 제조산업 [PC흥망사 12-2] 
