반도체 및 인프라 소프트웨어 솔루션을 설계, 개발 및 공급하는 글로벌 기술 선도 기업인 Broadcom(NASDAQ: AVGO)은 안전성, 확장성 및 유연성을 한층 강화한 AI 솔루션인 ‘VMware Private AI Cloud’를 공개했다. VMware Private AI Cloud는 데이터를 모델로 가져가는 것이 아닌, 모델이 데이터를 찾아가는 방식을 적용한다. VMware Private AI Cloud는 Broadcom의 첨단 소프트웨어 역량을 토대로 구축되어 기업이 추론 워크로드, 에이전틱 애플리케이션 및 기존 엔터프라이즈 워크로드를 단일의 프라이빗 클라우드 플랫폼에서 안전하게 구축, 운영 및 관리할 수 있는 프로덕션-레디 경로(production-ready path)를 지원한다. 또한 다양한 하드웨어, 모델 및 가속기를 선택할 수 있는 VMware Private AI Cloud를 통해 AI를 경제적으로 확장하고, 보다 안전하게 운영하며, 신속하게 혁신할 수 있다.
Broadcom의 인프라 소프트웨어 그룹 사장인 람 벨라가(Ram Velaga, president, Infrastructure Software Group, Broadcom)는 “VMware Private AI Cloud는 엔터프라이즈 프라이빗 클라우드와 프라이빗 AI 인프라가 더 이상 별개가 아닌 하나로 운영하는 변곡점이다. 이를 통해 기업은 데이터 주권, 컴플라이언스 태세, 사업상 요구되는 비용 예측성을 확보하면서 프로덕션 추론 워크로드와 에이전틱 AI를 운영할 수 있다.”고 말했다.
비용 효과적인 AI 확장
VMware Private AI Cloud는 하드웨어 자본 지출(CapEx), 운영 복잡성, 토큰 경제성이라는 세 가지 핵심 AI 비용 요인 해결을 지원한다. VMware Cloud Foundation(VCF) 9는 NVMe 메모리 계층화 및 클러스터 전반의 스토리지 중복 제거를 통해 하드웨어 비용을 절감한다. 또한 VCF는 업계 주요 벤더의 GPU, CPU 및 가속기뿐 아니라, 주요 OEM 및 ODM 공급자의 서버 하드웨어를 지원하기 때문에 기업이 이기종 클러스터를 비용 효과적으로 운영할 수 있다. 특히 토큰 경제성과 리소스 사용을 최적화하기 위해 토큰 모니터링, 멀티-테넌트 모델 공유, GPU/vGPU 추적 강화, AI 메트릭 모니터링 대시보드를 지원한다. Private AI Cloud용으로 공개된 인프라 및 운영 혁신 기술은 다음과 같다.
• ‘VMware AI Factory’로 메탈-투-모델(Metal to Model) 가속화: Broadcom은 VMware Private AI Cloud의 소프트웨어 정의 기반인 ‘VMware AI Factory’를 발표했다. VMware AI Factory는 AI-레디 인프라 배포 및 Day 2 운영을 위한 혁신적인 자동화 기술로 고객의 프로덕션 경로를 간소화한다. VMware AI Factory를 통해 기업은 최초 모델 배포 시간을 단축하고 AI 토큰 경제성을 더욱 더 잘 관리할 수 있다.
• VCF를 위한 검증된AI 모델(Validated AI Models for VCF)로 서비스형 모델(Model as a Service, MaaS) 지원: VMware AI Factory는 기업이 업계 선도적인 AI 모델을 온프레미스에서 운영하기 위한 경로(production-ready path)를 제공한다. 이를 통해 VCF의 기업 고객은 Nemotron 3, Gemma 4, cotomi, Qwen 3.7-Max, GLM 5.2를 포함한 150여 개의 오픈소스 및 상용 모델을 운영할 수 있다. 또한 Broadcom은 글로벌 AI 모델 선도 공급사와 협력을 통해 기업이 데이터 주권을 확보하고 경제적으로 AI를 확장할 수 있도록 지원하며, 사용자 커뮤니티는 VCF의 빌트인 서비스를 통해 업계 선도적인 모델을 안전하게 서비스 받을 수 있다.
운영 보안 향상
VCF는 NIST CSF 2.0을 준수하는 심층 방어(defense-in-depth)를 기반으로 설계되어 공격 표면을 최소화하고, 지속적인 컴플라이언스를 구현함으로써 AI로 더 빨라지는 위협으로부터 인프라를 보호한다. 또한 VCF는 자동화된 무중단 업데이트를 통해 시스템을 최신 상태로 유지하는 동시에, VMware vDefend는 가상 패칭 및 마이크로세그멘테이션 기반 하이퍼바이저 수준의 횡적 보안으로 제로 트러스트를 구현하고, 공격시도(exploit)를 차단한다. 또한 vDefend의 멀티-레이어 위협 방어와 VMware Avi Load Balancer의 웹 애플리케이션 방화벽 및 API 보호는 고도화된 공격을 방지한다. Private AI Cloud를 지원하는 혁신적인 보안 기술은 다음과 같다.
• Broadcom의 TrueSource, 검증 가능한 오픈소스 소프트웨어 공급망 구축 지원: Spring Enterprise는 더 빨라지는 AI 기반 공격에 대응하도록 설계되어 자체 유지 관리 팀을 통해 안전하고 검증된 Spring 릴리스를 제공한다. 여기에는 최신 AI 모델을 활용한 스캔과 사람에 의한 검증을 거친 패치가 포함되며, 모든 릴리스 라인에 동시 제공된다. TrueSource Trusted Artifacts는 Java 생태계, Python, Node.js 및 Bitnami Secure Images 카탈로그에 걸쳐 클린룸 빌드(clean-room builds)를 확장하고, TrueSource Data Services는 PostgreSQL, RabbitMQ, MySQL, Valkey 데이터 계층에 동일한 표준을 적용한다.
• vDefend 기반 에이전틱 제로 트러스트 보안: 새로운 vDefend 기능은 에이전틱 AI 워크로드에 대한 제로 트러스트 기반의 횡적 보안(Zero Trust Lateral Security)을 강화한다. 이를 위해 트래픽 흐름을 지속적으로 모니터링해 에이전틱 AI 구성요소를 식별하고, 승인되지 않은 섀도우 AI(Shadow AI) 사용을 탐지한다. 또한 AI가 생성한 침입 탐지 및 방지(IDPS) 시그니처를 활용해 분산형 가상 패치(Distributed Virtual Patching)를 제공함으로써 보안 위협에 신속하게 대응할 수 있도록 지원한다.
• Avi Load Balancer 기반 에이전틱 위협 방어(Agentic Threat Defense): Avi 웹 보안 솔루션은 에이전틱 AI 워크로드 보호 기능을 한층 강화한다. 이를 통해 AI 에이전트가 승인되지 않은 도구에 접근하거나 오용되는 것을 방지하고, 비정상적인 행위를 탐지해 격리함으로써 제로데이 공격을 식별할 수 있도록 지원한다. 또한 데이터 보호 가드레일(Data Protection Guardrails)을 통해 민감한 정보의 무단 유출을 방지하는 데 기여한다.
에이전틱 AI 시대를 위한 신속한 혁신
자율형 AI 에이전트는 기존 앱과 달리 통제되지 않고 작동하거나, 범위를 벗어나거나, 지시를 잘못 해석할 수 있다. 따라서 강력한 통제와 데이터 무결성이 필수이다. VMware Tanzu 플랫폼은 VMware vDefend와 함께 기본 거부형(deny-by-default) 아키텍처, 사전 구축된 하네스(harness) 및 엄선된 마켓플레이스를 통해 신뢰할 수 있는 엔터프라이즈 에이전트를 위한 기반을 제공한다. Private AI Cloud용 에이전틱 AI 혁신 발표 내용은 다음과 같다.
Broadcom의 AgentMinder, 자율형 AI 에이전트의 대규모 거버넌스 지원: Broadcom은 오늘 기업이 자율형 AI 에이전트를 중앙에서 관리할 수 있도록 지원하는 새로운 솔루션 AgentMinder를 공개했다. AgentMinder는 AI 에이전트를 엔터프라이즈급 디지털 ID로 관리하며, 각 에이전트의 권한을 특정 업무 목적(mission), 승인된 도구, 허가된 리소스에 연계해 통제한다. 또한 런타임(runtime) 정책 적용 기능을 통해 모든 도구 호출 과정에서 최소 권한 원칙(least-privileged access)을 보장하고, 규제 및 컴플라이언스 수준의 감사 추적 기능을 제공해 기업이 AI 에이전트의 모든 활동을 투명하게 파악할 수 있도록 지원한다.
AI 준비형 데이터 기반으로 기업 데이터를 AI 에이전트의 지식으로 전환: Tanzu 플랫폼의 새로운 AI-Ready 데이터 기반(AI-ready data foundations)은 데이터 소유자가 정형 및 비정형 데이터를 아우르는 동적 데이터 파이프라인을 구축 및 관리할 수 있도록 지원한다. 이를 통해 AI 에이전트가 비용 효율적으로 활용할 수 있는 데이터 제품(Data Product)을 생성할 수 있으며, 생성된 데이터 제품은 거버넌스가 적용된 풍부한 맥락 정보(Context-rich)를 갖춘 서비스 형태로 Tanzu 플랫폼 마켓플레이스에 게시된다. 이에 따라 데이터가 기업 외부로 이동하지 않으면서도 AI 에이전트와 개발자가 필요한 데이터를 손쉽게 검색하고 활용할 수 있다.
신뢰할 수 있는 AI 에이전트 구축 및 운영을 위한 Tanzu Platform Agent Foundations: Tanzu Platform Agent Foundations는 기본 차단(Deny-by-Default) 원칙에 기반한 런타임 환경을 통해 엄격한 격리(Containment)를 적용한다. 이에 따라 AI 에이전트는 명시적으로 권한을 부여받지 않는 한 API, 네트워크, MCP 서버 또는 인터넷에 접근할 수 없다. 새롭게 추가된 기능에는 모든 자격 증명을 AI 에이전트로부터 완전히 분리해 보호하는 독립형 자격 증명 저장소(Isolated Credential Store)가 포함된다. AI 에이전트는 접근할 수 없는 정보를 유출하거나 오용할 수 없기 때문에 자격 증명 탈취(Credential Theft) 및 프롬프트 인젝션(Prompt Injection) 공격을 효과적으로 차단할 수 있다.
[뉴스] OpenAI와 브로드컴, 자체 설계 LLM 최적화 추론 칩 할라피노(Jalapeno) 공개 
