HPE는 네오클라우드를 포함한 클라우드 서비스 제공업체(CSP)의 대규모 인공지능(AI) 학습 및 추론 배포를 가속화하기 위해, 통합 스케일업 이더넷 네트워킹을 탑재한 최초의 AMD ‘헬리오스(Helios)’ AI 랙 스케일 아키텍처를 발표했다. 브로드컴(Broadcom)의 토마호크 6(Tomahawk 6) 네트워킹 칩과 HPE 주니퍼 네트워킹(HPE Juniper Networking) 전용 하드웨어·소프트웨어를 활용한 해당 솔루션은 개방형 UALoE(Ultra Accelerator Link over Ethernet) 표준을 기반으로 하며, 조 단위 파라미터 모델 학습, 높은 추론 처리량, 거대 모델 크기에서 발생하는 트래픽을 지원한다. 또한 HPE 서비스 팀의 직접 액체냉각 인프라 및 엑사스케일급 구축 경험을 바탕으로, 고객에게 유연성·상호운용성·에너지 효율성·배포 속도를 강화해 AI 컴퓨팅 수요 증가에 대응한다.
안토니오 네리(Antonio Neri) HPE 회장 겸 CEO는 “지난 10년여 년간 HPE와 AMD는 슈퍼컴퓨팅의 한계를 넓히며 여러 엑사스케일급 시스템을 제공하고 혁신을 가속화하는 개방형 표준을 선도해 왔다”며, “새로운 AMD ‘헬리오스’와 HPE 전용 스케일업 네트워킹 솔루션 도입으로 CSP 고객들에게 더 빠른 배포, 더 유연한 확장성, 더 낮은 리스크를 제공하며 AI 컴퓨팅 확장 방식을 혁신하고 있다”고 말했다.
리사 수(Lisa Su) AMD 회장 겸 CEO는 “HPE는 고성능 컴퓨팅 분야에서 새로운 가능성을 만들기 위해 AMD와 오랜 기간 협력해 온 핵심 파트너”라며, “’헬리오스’를 통해 우리는 그 협력을 한 단계 더 발전시키고 있으며, AMD 컴퓨팅 기술의 풀스택과 HPE의 시스템 혁신을 결합하여 AI 시대에 고객을 위한 새로운 수준의 효율성, 확장성 및 획기적인 성능을 이끄는 개방형 랙 스케일 AI 플랫폼을 제공한다”고 말했다.
업계 최초의 이더넷 기반 솔루션을 갖춘 단일 턴키 랙으로 AI 배포 가속화
HPE는 이번 발표를 통해 ‘AMD ‘헬리오스’ 랙 스케일 솔루션을 제공하는 최초의 기업 중 하나가 될 예정이다. 이 솔루션은 차세대 AI 시스템에 필요한 전력 공급, 고급 수냉 방식 및 높은 서비스성에 최적화된 OCP(Open Compute Project) 사양을 기반으로 한다. 통합 솔루션의 추가 기능은 다음과 같다:
• 랙 스케일 성능: 랙당 72개의 AMD 인스팅트(Instinct™) MI455X GPU를 연결하는 이 솔루션은 초당 260TB(테라바이트)의 통합 스케일업 대역폭과 FP4 기준 최대 2.9 AI 엑사플롭스를 제공하여 워크로드를 가속화하고 대형 AI 모델을 지원한다. 또한 31TB 용량의 4세대 고대역폭메모리(HBM4)와 초당 1.4PT(페타바이트)의 메모리대역폭을 제공하여 가장 까다로운 AI 및 HPC 워크로드를 위한 탁월한 용량과 데이터 처리 성능을 제공한다.
• 업계 최초의 표준 기반 이더넷 스케일업 스위치 및 소프트웨어: HPE는 AMD ‘헬리오스’ AI 랙 스케일 아키텍처를 위해 특별히 설계된 스케일업 이더넷 스위치 및 소프트웨어로 ‘AI용 네트워크(networks for AI)’ 솔루션을 확장하고 있다. 브로드컴과 협력해 개발된 이번 신규 솔루션은 표준 이더넷을 통해 AI 워크로드에 최적화된 성능을 제공하는 최초의 스케일업 스위치로, HPE의 AI 네이티브 자동화 및 보장 기능을 활용하여 네트워크 운영을 간소화함으로써 더 빠른 배포와 전반적인 비용 절감을 실현한다. 새로운 HPE 스케일업 솔루션은 HPE의 기존 스케일아웃 및 스케일어크로스 제품을 보완하여 완벽한 ‘AI용 네트워크’ 포트폴리오를 제공한다.
• 개방형 표준 및 혁신: OCP의 ORW(오픈 랙 와이드) 사양을 기반으로 구축된 AMD ‘헬리오스’ AI 랙 스케일 아키텍처의 더블 와이드 설계는 지속적인 유지보수에 최적화된 실용적인 설계로 전력 및 에너지 효율적인 수냉 방식을 제공한다. 또한 오픈 소스 AMD ROCm™ 소프트웨어와 AMD 펜산도(Pensando™) 네트워킹 기술을 활용하여 혁신을 가속화하고 총소유비용(TCO)을 낮추는 데 기여한다. 개방적이고 검증된 통신 표준을 기반으로 하는 이더넷 기반 HPE 주니퍼 네트워킹 스위치는 벤더 종속성을 최소화하고 더 신속한 기능 업데이트를 가능하게 한다.
브로드컴은 HPE와 협력해 AMD ‘헬리오스’ AI 랙 스케일 아키텍처를 위한 HPE 주니퍼 네트워킹 스케일업 스위치를 개발하고 있다. 이는 양사가 AI 데이터센터 네트워크를 위한 개방형 이더넷 기술에 대해 오랜 기간 구축해온 협력 관계와 공통된 비전을 기반으로 하며, 최신 AI 워크로드에 최적화된 확장 가능하고 효율적인 고성능 네트워킹 솔루션을 제공하는 것을 목표로 한다.
혹 탄(Hock E. Tan) 브로드컴 회장 겸 CEO는 “브로드컴은 스케일업을 위한 개방형 이더넷 기반 AI 인프라를 발전시키는 이번 협력에 참여하게 되어 자랑스럽다”며, “브로드컴의 고성능 실리콘은 최신 AI 워크로드가 요구하는 확장성 및 효율성과 함께 업계 최고의 초저지연, 대규모 성능, 무손실 네트워킹을 제공한다. HPE 및 AMD와 함께 표준 이더넷으로 강력한 AI 데이터센터 구축을 지원함으로써 고객에게 더 많은 선택권과 유연성, 그리고 뛰어난 확장성을 제공한다”고 덧붙였다.
[영상] 라이젠X3D부터 셀러론까지 성공한 CPU의 비결 캐시, L2에서 L3 노바레이크에도 탑재되는 3D캐시까지 [PC흥망사 16-2] 
