AI 컴퓨팅 기술 분야의 선두주자인 엔비디아(www.nvidia.co.kr)가 기업 인프라와 엣지 시스템에서 안전한 AI 에이전트를 구축하고 격리·모니터링하며 보안 정책을 적용할 수 있도록 지원하는 엔비디아 오픈쉘 레퍼런스 아키텍처(NVIDIA OpenShell Reference Architecture)를 발표했다.
오픈쉘 레퍼런스 아키텍처는 엔비디아 오픈쉘™ 보안 런타임 소프트웨어를 기반으로 하며, 이를 에이전트 개발과 운영을 위한 풀스택 산업 규모 인프라로 확장한다.
이 아키텍처에는 엔비디아 네모트론™(Nemotron™)으로 구축된 폐쇄형 및 개방형 모델을 포함한 기업 워크로드를 실행하는 엔비디아 베라 루빈(Vera Rubin) 인프라, 에이전트 하네스(harness) 운영을 위한 엔비디아 베라 CPU, 오픈소스 엔비디아 오픈쉘 소프트웨어, 엔비디아 센트리(Sentry) 통합 보안 소프트웨어 프레임워크를 실행하는 엔비디아 블루필드(BlueField)® DPU가 포함된다. 엔비디아 센트리는 에이전트의 동작을 지속적으로 대역 외 방식으로 모니터링하고 하드웨어 수준에서 보안 정책을 집행한다.
오픈쉘 레퍼런스 아키텍처는 엔비디아 RTX 스파크™(RTX Spark™), 엔비디아 DGX 스파크™(DGX Spark™), 엔비디아 DGX 스테이션™(DGX Station™) 시스템을 활용해 리테일, 헬스케어, 제조, 로보틱스, 소프트웨어 개발, 통신 등 다양한 산업의 엣지 환경에서 실행되는 에이전트까지 지원 범위를 확장할 수 있다.
엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 “AI 역량과 안전성은 함께 발전해야 한다. 기업들이 수십억 개의 AI 에이전트 배포를 준비하는 가운데, 안전성과 제어 기능은 컴퓨팅 아키텍처 자체에 내재돼야 한다”며, “엔비디아는 에이전트가 명확하게 정의된 경계 내에서 유용한 업무를 자유롭게 수행하면서도 격리되고 모니터링되며 통제될 수 있도록 오픈쉘을 개발했다. 오픈쉘 레퍼런스 아키텍처를 통해 에이전트는 루빈에서 사고하고, 베라에서 행동하며, 블루필드에서 통제된다”고 말했다.
에이전트를 위한 풀스택 인프라
오픈쉘 레퍼런스 아키텍처는 엔비디아 가속 컴퓨팅과 안전한 에이전트 운영을 위한 소프트웨어를 결합한 것이 특징이다.
엔비디아 베라 루빈: 엔비디아 베라 루빈 NVL72 인프라를 핵심으로, 사전 학습, 사후 학습, 추론 단계 전반에 걸쳐 유연하게 활용할 수 있다. 에이전틱 워크로드에서 엔비디아 베라 루빈 NVL72 시스템은 메가와트당 30배 더 높은 처리량을 제공한다.
엔비디아 베라 CPU: x86 프로세서 대비 2배 높은 성능과 향상된 에너지 효율을 제공한다. 또한 자율형 에이전트를 위한 안전한 런타임 경계를 제공하는 엔비디아 오픈쉘을 실행한다.
엔비디아 블루필드-4 DPU: 엔비디아 도카™(DOCA™) 소프트웨어 기반의 엔비디아 센트리를 통해 에이전트의 행동을 지속적으로 모니터링한다. 블루필드와 엔비디아 센트리는 함께 하드웨어 수준에서 보안 적용 기능을 제공한다. 에이전트가 소프트웨어 경계를 벗어나려고 시도할 경우 엔비디아 센트리는 밀리초 단위로 해당 에이전트를 격리하고 중단시킨다. 도카 기반으로 블루필드-4에서 실행되는 엔비디아 센트리는 에이전트 처리 용량을 최대 20% 향상시킨다.
엔비디아, 파트너사와 오픈쉘 기반 안전한 에이전트 배포 지원
엔비디아는 다양한 산업 분야에서 에이전트를 생산 환경에 안전하게 배포할 수 있도록 인프라, 모델, 소프트웨어를 구축하는 업계 선도 기업들과 협력하고 있다.
오픈쉘 레퍼런스 아키텍처는 캐노니컬(Canonical), 수세(SUSE), 레드햇(Red Hat)이 제공하는 리눅스(Linux)와 쿠버네티스(Kubernetes) 인프라를 비롯해 마이크로소프트 실행 컨테이너(Microsoft Execution Containers, MXC)를 활용하는 마이크로소프트 윈도우(Microsoft Windows) 등 주요 엔터프라이즈 운영체제와 컨테이너 오케스트레이션 계층에서 실행된다. 또한 아마존웹서비스(Amazon Web Services, AWS), 구글 클라우드(Google Cloud), 마이크로소프트 애저(Microsoft Azure)의 클라우드 운영체제에서도 실행할 수 있다.
기업들은 오픈쉘 인프라에서 앤트로픽(Anthropic), 코히어(Cohere), 구글(Google), 메타(Meta), 오픈AI(OpenAI), 퍼플렉시티(Perplexity), 리플렉션(Reflection), 스페이스X 슈퍼 인텔리전스(SpaceX Super Intelligence) 등 모델 개발사가 제공하는 에이전트를 실행할 수 있다. 엔비디아는 첨단 모델 연구를 위한 오픈쉘 배포에서도 모델 개발사 파트너들과 협력하고 있다.
사이버 보안 분야의 선도 기업인 원패스워드(1Password), 체크포인트(Check Point), 크라우드스트라이크(CrowdStrike), 시스코(Cisco), F5, 포티넷(Fortinet), 마이크로소프트, 옥타(Okta), 팔로알토 네트웍스(Palo Alto Networks), 트렌드AI(TrendAI), 지스케일러(Zscaler)는 자사의 에이전트 보안 솔루션에 오픈쉘 레퍼런스 아키텍처 지원 기능을 통합하고 있다.
유럽의 BBVA와 산탄데르(Santander)를 비롯한 주요 은행들은 엔비디아와 협력해 에이전트의 안전성, 보안, 거버넌스를 강화하기 위한 프레임워크로 오픈쉘 레퍼런스 아키텍처를 활용하는 방안을 검토하고 있다.
엔터프라이즈 소프트웨어 분야의 선도 기업인 케이던스(Cadence), 다쏘시스템(Dassault Systèmes), IBM, SAP, 지멘스(Siemens), 시놉시스(Synopsys)는 오픈쉘을 활용해 에이전트 소프트웨어 플랫폼을 개발하고 있다. 팔란티어(Palantir)와 엔비디아는 고객들이 안전한 에이전트를 프로덕션 환경에 배포할 수 있도록 협력하고 있다.
SAP는 엔비디아 오픈쉘 레퍼런스 아키텍처를 SAP 비즈니스 AI 플랫폼(SAP Business AI Platform)의 일부인 줄 스튜디오(Joule Studio) 런타임에 통합해 비즈니스 거버넌스와 안전한 에이전트 실행을 연결하고 있다.
서비스나우(ServiceNow)는 서비스나우 슈퍼 인텔리전스 컨트롤 타워(ServiceNow Super Intelligence Control Tower)가 런타임에서 작업을 관리하고 엔비디아 오픈쉘이 관련 정책을 집행하는 개인용 장기 실행 AI 에이전트인 서비스나우 아크(ServiceNow Arc)의 정식 출시를 발표했다. 또한 최근 발표한 AI 패스포트(AI Passport) 권한 계층은 이러한 정책을 엔비디아 오픈쉘과 엔비디아 센트리로 전달해 기업이 단 몇 초 만에 소프트웨어와 하드웨어 전반에서 AI 에이전트의 접근 권한을 취소할 수 있도록 한다.
엔비디아 시스템 제조사인 델 테크놀로지스(Dell Technologies), 시스코, HPE, 레노버(Lenovo), 슈퍼마이크로(Supermicro)는 오픈쉘 레퍼런스 아키텍처를 기반으로 인프라를 구축하고 있다.
엔비디아는 코어위브(CoreWeave), 크루소(Crusoe), 파이어버드(Firebird), 퍼머스(Firmus), GMI 클라우드(GMI Cloud), 아이렌(IREN), 람다(Lambda), 네비우스(Nebius), 엔스케일(Nscale), 오라클 클라우드 인프라스트럭처(Oracle Cloud Infrastructure), 벌처(Vultr) 등 클라우드 서비스 제공업체와도 협력해 오픈쉘을 지원하는 인프라를 구축하고 있다.
베이스텐(Baseten), 딥인프라(DeepInfra), 파이어웍스(Fireworks), 투게더 AI(Together AI) 등 추론 및 사후 학습 서비스 제공업체들은 자사의 모델 개발 파이프라인에 오픈쉘 레퍼런스 아키텍처를 통합하고 있다.