델 테크놀로지스(Dell Technologies)는 온프레미스 환경에 안전하고 신속하게 생성형 AI를 구축할 수 있도록 지원하는 신규 오퍼링을 공개했다. 향상된 작업 결과를 더 빠르게 확보하고 새로운 수준의 인텔리전스를 경험할 수 있도록 개발됐다.
올해 5월 발표된 프로젝트 헬릭스(Project Helix)의 일환으로 출시된 델 생성형 AI 솔루션(Dell Generative AI Solutions)은 IT 인프라, PC 및 전문 서비스를 망라하여 대규모 언어 모델(LLM)을 갖춘 풀 스택 생성형 AI 채택을 간소화하고, 고객이 생성형 AI 여정의 어느 단계에 있든 이를 활용할 수 있도록 설계됐다. 모든 규모와 산업 전반의 조직들이 안전하게 혁신을 추진하고 더 나은 결과를 확보할 수 있도록 돕는다.
델의 광범위한 포트폴리오로 구성된 델 생성형 AI 솔루션에는 델 프리시전(Dell Precision) 워크스테이션, 델 파워엣지(Dell PowerEdge) 서버, 델 파워스케일(Dell PowerScale) 비정형 데이터 스토리지, 델 ECS(Dell ECS) 엔터프라이즈 오브젝트 스토리지와 서비스 등이 포함되어 있으며, 클라이언트 사용자 환경에서부터 데이터센터, 엣지, 그리고 퍼블릭 클라우드에 이르는 다양한 생성형 AI 솔루션에 적용 가능한 안정적인 툴을 제공한다.
델과 엔비디아의 공동 엔지니어링으로 탄생한 생성형 AI를 위한 델과 엔비디아의 검증 설계(Dell Validated Design for Generative AI with NVIDIA) 오퍼링은 AI 추론을 위한 블루프린트로서 모듈러 방식을 통해 빠르게 구축이 가능하며, 엔터프라이즈 환경에 맞춰 안전하고 확장이 용이한 플랫폼을 제공한다.
기존의 전통적인 추론 접근법은 LLM을 확장하고 지원해 실시간으로 결과를 도출하거나, AI 인프라에서 데이터를 손쉽게 사용하기에 어려움이 있었다. 이번에 델이 발표한 검증 설계를 활용하면, 기업의 자체 데이터를 이용해 가치 달성 시간(time-to-market)은 줄이고, 더 높은 품질의 예측 분석과 의사 결정 체계를 확보할 수 있다.
검증이 완료된 포괄적인 추론 접근 방식을 통해 조직에서는 생성형 AI 프로젝트를 신속하게 진행하고 애플리케이션을 확장하여 고객 관리, 콘텐츠 생성 및 관리, 세일즈, 소프트웨어 개발 등의 중요 프로세스를 혁신할 수 있다.
델 검증 설계는 엔비디아 텐서 코어 (NVIDIA® Tensor Core) GPU, 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어, 엔비디아 네모(NVIDIA NeMo™) 엔드투엔드 프레임워크 및 델 소프트웨어가 탑재된 델 파워엣지(Dell PowerEdge) XE9680 또는 R760xa 등의 델 인프라를 기반으로 생성형 AI 추론을 지원하기 위해 테스트와 검증을 마친 오퍼링이다. 고객은 이를 델 파워스케일 및 델 ECS 스토리지를 포함하여 탄력적이고 확장 가능한 비정형 데이터 스토리지와 결합할 수 있다. 이 인프라는 서비스형(As-a-service) 오퍼링인 델 에이펙스(Dell APEX)를 통해서도 제공되어, 온프레미스에 인프라를 구축하되, 클라우드 과금 및 관리 방식으로 이용할 수 있다.
델 프로페셔널 서비스(Dell Professional Services)는 생성형 AI 채택을 가속화할 수 있는 광범위한 기능을 제공함으로써 운영 효율성을 개선하고 혁신을 촉진할 수 있도록 돕는다.
이 서비스는 생성형 AI를 통해 큰 비즈니스 가치를 생성할 수 있는 여러 활용 케이스를 선정하고, 이를 달성할 수 있는 로드맵을 구축할 수 있도록 위한 신규 전략을 수립하는 것에서부터 시작한다. 델은 생성형 AI를 위한 델과 엔비디아의 검증 설계를 기반으로 풀 스택 구축 서비스를 제공하며, 고객 관리, 콘텐츠 생성 등 특정 사례에 플랫폼을 적용할 수 있도록 지원한다. 비즈니스에 통합을 완료한 이후에는 스케일링 서비스를 통해 관리형 서비스, 교육 및 상주 전문가를 통해 운영을 개선할 수 있다.
로컬 디바이스에서 생성형 AI를 안전하게 개발할 수 있도록 돕는 델 프리시전 워크스테이션
전세계 점유율 1위 워크스테이션1) 델 프리시전(Dell Precision)은 모델을 배포하기 전에 AI 개발자나 데이터 사이언티스트가 로컬 디바이스에서 생성형 AI 모델을 개발하고 튜닝할 수 있도록 지원한다. 성능과 안정성을 자랑하는 프리시전 워크스테이션은 단일 워크스테이션에서 최대 4개의 NVIDIA RTX 6000 Ada 세대 GPU를 통해 이전 세대보다 AI 소프트웨어 프레임워크를 80% 더 빠르게 실행할 수 있다.2)
내장된 AI 소프트웨어인 델 옵티마이저(Dell Optimizer)는 일하는 방식을 학습하고 자동 조정하여 애플리케이션, 네트워크 연결 및 오디오 전반의 성능을 향상시킨다. 또한 생성형 AI 모델을 활용하는 모바일 워크스테이션 사용자가 배터리 사용 시간에 미치는 영향을 최소화하면서 사용 중인 애플리케이션의 성능을 향상시킬 수 있도록 최신 기능이 추가됐다.
생성형 AI를 위한 델과 엔비디아의 검증 설계는 현재 전세계 시장에서 출시되었으며, 생성형 AI를 위한 델 프로페셔널 서비스는 일부 국가에서 제공된다. 엔비디아 RTX 6000 Ada 세대 GPU가 탑재된 델 프리시전 워크스테이션(7960 Tower, 7865 Tower, 5860 Tower) 또한 현재 한국을 비롯해 전세계에 출시되었으며, 델 옵티마이저 적응형 워크로드는 일부 프리시전 모바일 워크스테이션에서 8월 30일부터 제공될 예정이다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
