엔비디아(www.nvidia.co.kr)가 오픈AI(OpenAI)의 새로운 오픈 웨이트(open-weight) AI 추론 모델 2종인 gpt-oss-120b와 gpt-oss-20b 개발에 협력했다고 밝혔다.
오픈AI는 지난 5일(현지 시간), 해당 오픈 웨이트 AI 추론 모델 2종을 공개했다. 이는 최첨단 AI 개발 역량을 전 세계 개발자, 기술 애호가, 기업, 스타트업, 정부 등 모든 이들에게 직접 제공하며, 산업과 규모를 막론한 광범위한 활용을 지원한다.
개방형 모델인 gpt-oss-120b와 gpt-oss-20b에 대한 엔비디아(NVIDIA)와 오픈AI의 협력은 커뮤니티 주도의 혁신이 가진 힘을 보여준다. 또한, AI의 전 세계적 보급을 위한 엔비디아의 기반적 역할을 부각시킨다.
누구나 이 모델들을 활용해 생성형 AI, 추론형 AI, 피지컬 AI는 물론 헬스케어, 제조업 등 다양한 분야에서 획기적인 애플리케이션을 개발할 수 있다. 아울러 AI가 주도하는 차세대 산업 혁명이 지속적으로 전개됨에 따라 새로운 산업의 개척도 가능하다.
오픈AI의 새로운 유연한 오픈 웨이트 텍스트 추론 거대 언어 모델(large language model, LLM)은 엔비디아 H100 GPU에서 훈련됐다. 또한, 전 세계 엔비디아 쿠다(CUDA) 플랫폼을 실행하는 수억 개의 GPU에서 최고의 추론 성능을 발휘한다.
이 모델들은 현재 엔비디아 NIM 마이크로서비스 형태로 제공되며, GPU 가속 인프라 어디에서나 유연하게 배포할 수 있고, 데이터 프라이버시와 엔터프라이즈급 보안 기능을 제공한다.
아울러 엔비디아 블랙웰(Blackwell) 플랫폼용 소프트웨어 최적화를 통해 엔비디아 GB200 NVL72 시스템에서 최적의 추론 성능을 구현하며, 초당 150만 개의 토큰 처리라는 뛰어난 효율을 자랑한다.
|
[영상] 메모리 가격 폭등 부추기는 공포 마케팅과 대형 PC 제조사들, [메모리 가격 폭등 3부] 
