레드햇이 레노버와 협력해 레노버 씽크시스템(Lenovo ThinkSystem) SR675 V3 서버에 레드햇 엔터프라이즈 리눅스 AI(이하 RHEL AI)를 제공한다고 발표했다. 이번 협력을 통해 RHEL AI는 SR675 V3 서버를 공식 지원하며, 고객이 AI에 최적화된 운영체제에 구축된 신뢰할 수 있는 파운데이션 모델 플랫폼에서 인공지능(AI) 및 생성형 AI(generative AI) 모델을 보다 쉽게 개발, 테스트, 실행할 수 있도록 공장 출하 시 기본으로 탑재될 예정이다.
생성형 AI는 혁신을 가속화할 수 있는 중요한 기회를 제공한다. 하지만 AI 워크로드에는 강도 높은 컴퓨팅 및 처리 요구를 충족하는 동시에 AI 모델 학습과 미세 조정(fine tuning)을 간소화할 수 있는 고성능 서버와 유연한 소프트웨어의 결합이 필요하다. 레드햇과 레노버는 레노버 씽크시스템 SR675 V3 서버에 RHEL AI의 성능을 탑재함으로써 내장 GPU 처리 능력을 사용해 AI 컴퓨팅에 최적화된 성능을 제공하고 고객이 보다 신속하고 원활하게 AI 이니셔티브를 실행할 수 있도록 지원한다.
RHEL AI는 IBM리서치(IBM Research)의 오픈소스 라이선스 LLM(대규모 언어 모델)인 그래니트(Granite) 제품군과 인스트럭트랩(InstructLab)의 모델 정렬 도구(alignment tool)를 결합하는 파운데이션 모델 플랫폼으로, 커뮤니티 주도의 접근 방식을 통한 모델 개발을 지원한다. 이 솔루션은 하이브리드 클라우드 환경 전반에서의 이식성(mobility)을 위해 최적화되고 부팅 가능한(bootable) RHEL 이미지로 패키징되어 있으며, 분산 클러스터 환경에서 대규모로 모델 및 인스트럭트랩을 실행할 수 있는 레드햇의 하이브리드 클라우드 머신러닝 운영(MLOps) 플랫폼인 레드햇 오픈시프트 AI(Red Hat OpenShift AI)의 일부로 포함되어 있다.
레노버 컨설팅 서비스(Lenovo Consulting Service)는 레드햇 솔루션의 최적화 및 구현을 위한 포괄적인 지원을 제공한다. 이 서비스는 배포, 통합, 관리에 대한 전문 지식을 제공하여 기업이 IT 인프라의 성능과 확장성을 향상하는 동시에 복잡성과 비용을 줄일 수 있도록 지원한다. 레노버의 전문가팀은 기술 수명 주기의 모든 단계에 걸쳐 지원을 제공한다.
RHEL AI는 현재 레노버 씽크시스템 SR675 v3 서버에서 지원 및 사용 가능하다. 고객은 레노버의 AI 센터 오브 엑설런스(AI Center of Excellence)에서 솔루션을 직접 체험하고, 고객의 고유한 요구사항을 충족하도록 커스터마이즈된 결과를 확인할 수 있다.
|
[영상] 비싼 메모리 시대에 램버스 실패로 알아보는, AI 시대 메모리 확보 전쟁의 끝은? [PC흥망사 17-2] 
