엔비디아가 새로운 소형 생성형 AI 슈퍼컴퓨터 젯슨 오린 나노 슈퍼 개발자 키트(Jetson Orin Nano Super Developer Kit)를 공개했다. 엔비디아(NVIDIA)는 소프트웨어 업그레이드로 이전 모델 대비 성능을 높이고 가격은 낮췄다.
손바닥만 한 크기의 새로운 엔비디아 젯슨 오린 나노 슈퍼 개발자 키트는 상업용 AI 개발자부터, 취미로 AI를 다루는 사람, 학생에 이르기까지 모두에게 생성형 AI 기능과 성능을 제공한다. 동시에 가격은 기존 499달러에서 249달러로 인하됐다.
이 제품은 이전 모델에 비해 생성형 AI 추론 성능이 1.7배 향상됐고, 성능은 67 INT8 TOPS로 70% 증가했으며, 메모리 대역폭은 102GB/s로 50% 증가했다.
젯슨 오린 나노 슈퍼는 검색 증강 생성(retrieval-augmented generation, RAG) 기반의 거대 언어 모델(large language model, LLM) 챗봇 생성, 시각적 AI 에이전트(AI agent) 구축, AI 기반 로봇 배포 등에 이상적인 솔루션을 제공한다.
새로운 젯슨 오린 나노 슈퍼에 제공되는 소프트웨어 업데이트는 이미 젯슨 오린 나노 개발자 키트를 보유하고 있는 사용자의 생성형 AI 성능도 향상시킨다.
젯슨 오린 나노 슈퍼는 생성형 AI, 로보틱스, 컴퓨터 비전 기술 개발에 관심이 있는 사람들에게 적합하다. AI 세계가 작업별 모델에서 파운데이션 모델로 이동함에 따라 아이디어를 현실로 전환할 수 있는 접근 가능한 플랫폼도 제공한다.
젯슨 오린 나노 슈퍼의 향상된 성능은 모든 인기 있는 생성형 AI 모델과 트랜스포머 기반 컴퓨터 비전을 위한 이점을 제공한다.
개발자 키트는 젯슨 오린 나노 8GB 시스템 온 모듈(system-on-module, SoM)과 레퍼런스 캐리어 보드로 구성돼 엣지 AI 애플리케이션 프로토타입을 위한 이상적인 플랫폼을 제공한다.
이 SoM은 텐서 코어가 포함된 엔비디아 암페어(Ampere) 아키텍처 GPU와 6코어 Arm CPU를 갖추고 있어 여러 개의 동시 AI 애플리케이션 파이프라인과 고성능 추론을 용이하게 한다. 또한, 최대 4개의 카메라를 지원할 수 있으며, 이전 버전보다 더 높은 해상도와 프레임 속도를 제공한다.
생성형 AI는 빠르게 발전하고 있다. 엔비디아 젯슨 AI 랩은 오픈 소스 커뮤니티에서 이러한 최첨단 모델에 대한 즉각적인 지원을 제공하며, 사용하기 쉬운 튜토리얼을 제공한다. 아울러 개발자는 광범위한 젯슨 커뮤니티의 폭넓은 지원을 받으며, 개발자가 만든 프로젝트에서 영감을 얻을 수 있다.
젯슨은 로보틱스를 위한 엔비디아 아이작(Isaac), 비전 AI를 위한 엔비디아 메트로폴리스(Metropolis), 센서 처리를 위한 엔비디아 홀로스캔(Holoscan)을 비롯한 엔비디아 AI 소프트웨어를 실행한다. 합성 데이터 생성을 위한 엔비디아 옴니버스 리플리케이터(Omniverse Replicator)와 NGC 카탈로그에서 사전 훈련된 AI 모델을 미세 조정하기 위한 엔비디아 타오 툴킷(TAO Toolkit)을 사용하면 개발 시간을 단축할 수 있다.
젯슨 생태계 파트너는 추가적인 AI와 시스템 소프트웨어, 개발자 도구, 맞춤형 소프트웨어 개발을 제공한다. 또한, 카메라와 기타 센서, 캐리어 보드, 제품 솔루션을 위한 설계 서비스도 지원 가능하다.
1.7배의 생성형 AI 성능을 향상시키는 소프트웨어 업데이트는 젯슨 오린 NX와 오린 나노 시리즈 시스템 모듈에서도 사용할 수 있다.
기존 젯슨 오린 나노 개발자 키트 소유자는 지금 바로 젯팩 SDK(JetPack SDK)를 업그레이드해 향상된 성능을 활용할 수 있다.
[영상] 비싼 메모리 시대에 램버스 실패로 알아보는, AI 시대 메모리 확보 전쟁의 끝은? [PC흥망사 17-2] 
