엔비디아가 GTC에서 PC와 워크스테이션에서 AI를 가속하는 도구와 소프트웨어 개발 키트를 소개했다.
엔비디아의 RTX AI 플랫폼에는 윈도우 개발자가 AI 가속 PC와 워크스테이션에서 최고의 성능을 발휘하는 최첨단 생성형 AI 기능의 개발을 지원하는 도구와 소프트웨어 개발 키트가 포함된다.
매년 개최되는 엔비디아의 기술 콘퍼런스 GTC에서는 업계의 저명인사, 개발자, 연구자로 구성된 드림팀이 모여 서로에게 지식을 전수하고 AI와 가속 컴퓨팅의 미래에 박차를 가하고 있다.
이번 GTC 전시장에서 강력한 대규모 언어 모델(LLM)을 데이터에 빠르고 쉽게 연결할 수 있는 기술 데모이자 개발자 레퍼런스 프로젝트인 챗 위드 RTX(Chat with RTX)가 새로운 기능과 모델을 선보였다.
RTX PC기반 생성형 AI 콘테스트 우승자는 지난 18일에 발표됐다. 엔비디아 텐서RT-LLM(TensorRT-LLM)으로 가속화된 아웃룩LLM(OutlookLLM), 로켓 리그 봇챗(Rocket League BotChat), 클라라(CLARA, Command Line Assistant with RTX Acceleration)는 생성형 AI 무대(Generative AI theater)의 AI 디코디드(AI Decoded) 강연에서 주목받았다. 다른 두 개의 AI 디코디드 강연에서는 생성형 AI를 활용한 콘텐츠 제작과 챗 위드 RTX에 대한 심층 분석이 다뤄졌다.
또한 엔비디아 NIM 마이크로서비스가 RTX PC와 워크스테이션에 출시될 예정이다. 이는 업계 표준 API로 사전 구축된 컨테이너를 제공해 개발자가 RTX PC와 워크스테이션에 배포를 가속화하도록 지원한다. AI 모델의 사용자 맞춤화와 최적화 워크플로우 관리를 간편하게 만드는 개발자 툴킷인 엔비디아 AI 웨크벤치(AI Workbench)가 이제 RTX 개발자를 위해 정식으로 제공된다.
이러한 에코시스템 통합과 툴은 새로운 윈도우 앱과 기능 개발을 가속화할 것으로 기대된다. 이번 콘테스트 수상작은 그러한 콘텐츠의 모습을 미리 엿볼 수 있도록 영감을 주는 작품이다.
앞으로 챗RTX(ChatRTX)로 이름이 변경될 챗 위드 RTX는 검색 증강 생성(RAG), 엔비디아 텐서 RT-LLM 소프트웨어, 엔비디아 RTX 가속 기능을 사용한다. 이를 통해 RTX 기반 윈도우 시스템에 로컬 생성형 AI 기능을 제공할 수 있다. 사용자는 로컬 파일을 데이터세트로서 미스트랄(Mistral)이나 라마 2(Llama 2)와 같은 개방형 LLM에 빠르고 쉽게 연결하며 쿼리를 통해 상황에 맞는 답변을 빠르게 얻을 수 있다.
챗RTX에는 텍스트 외에도 음성과 이미지, 새로운 모델에 대한 지원이 곧 추가된다.
사용자는 AI로 음성 언어를 처리하는 자동 음성 인식 시스템인 위스퍼(Whisper)를 통해 챗RTX와 대화할 수 있게 된다. 이 기능을 사용할 수 있게 되면 챗RTX는 음성 언어를 이해하고 텍스트로 응답할 수 있다.
또한 사진을 위한 지원도 추가될 계획이다. 오픈AI(OpenAI)의 CLIP(Contrastive Language-Image Pre-training)이 통합되면, 개인 라이브러리에서 단어나 용어, 혹은 구문을 검색해 사진을 찾을 수 있다.
구글의 젬마(Gemma) 외에도 향후 업데이트를 통해 챗GLM2(ChatGLM2)가 지원될 예정이다.
개발자는 깃허브(GitHub)에서 개발자 레퍼런스 프로젝트의 최신 버전부터 시작해 볼 수 있다.
엔비디아 RTX 개발자 콘테스트에서 엔비디아 생성형 AI는 개발자들이 윈도우 앱이나 플러그인을 구축할 수 있게 지원했다.
출품작 평가에 쓰인 세 가지 기준은 소셜 미디어에 게시한 짧은 데모 동영상, 프로젝트의 영향력 과 사용 편의성, 프로젝트에서 엔비디아의 기술 스택의 효과적인 사용 정도였다. 세 명의 우승자에게는 각각 엔비디아 딥 러닝 인스티튜트(Deep Learning Institute) GenAI/LLM 과정의 수강권이 주어졌다. 또한 향후 개발 작업에 사용할 수 있는 지포스(GeForce) RTX 4090 GPU를 비롯해 GTC 참가권이 부여됐다.
아웃룩LLM은 아웃룩 사용자에게 이메일 작성과 같은 생성형 AI 기능을 RTX PC와 워크스테이션의 이메일 클라이언트에서 안전하게 비공개로 제공한다. 이 기능은 텐서RT-LLM을 통해 제공되는 로컬 LLM을 사용한다.
인기 게임인 로켓 리그(Rocket League)을 위한 로켓 리그 봇챗은 봇이 골을 넣거나 세이브를 하는 등의 게임 활동에 대한 기록을 기반으로 게임 안에서 상황에 맞는 채팅 메시지를 보낼 수 있는 플러그인이다. 봇 플레이어와의 오프라인 게임에서만 사용하도록 설계된 이 플러그인은 설정 메뉴를 통해 다양한 방식으로 구성될 수 있다.
클라라는 일반적인 영어 지침을 실행 명령어로 변형함으로써 파워쉘(PowerShell)의 명령줄 인터페이스를 향상하도록 설계됐다. 이 확장 프로그램은 로컬에서 빠르게 실행되며 사용자가 파워쉘 컨텍스트를 유지하도록 한다. 이 확장 기능이 활성화되면 사용자는 영어 지침을 입력한 다음 탭 버튼을 눌러 클라라를 호출할 수 있다. 설치는 간단하며 스크립트 기반과 수동 설정 모두에 대한 옵션 기능이 있다.
GTC 참가자는 3월 20일 생성형 AI 무대에서 진행되는 세 개의 AI 디코디드 강연에 참여할 수 있다. 각각 15분 동안 진행되는 이 세션에서는 챗RTX와 개발자가 개인화된 챗봇을 제품화하는 방법, 세 명의 콘테스트 우승자가 RTX 시스템으로 보여주는 생성형 AI 앱의 기능, 그리고 아티스트와 이들이 사용하는 도구와 엔비디아 기술 기반의 방법론에 대한 축하 행사가 진행된다.
크리에이터 세션에서는 엔비디아의 생성형 AI 미디어와 엔터테인먼트 부문 시니어 개발자 관계 매니저인 리 프레이저(Lee Fraser)가 생성형 AI가 인기있는 이유를 설명한다. 그는 새로운 워크플로우와 크리에이터가 아이디어를 빠르게 탐색할 수 있는 방법을 소개한다. 스티브 토코스키(Steve Talkowski), 소피아 크레스포(Sophia Crespo), 림 웬후이(Lim Wenhui), 에릭 페인터(Erik Paynter), 바네사 로사(Vanessa Rosa), 레픽 아나돌(Refik Anadol)등의 아티스트도 출연한다.
레픽 아나돌은 이번 전시회에서 데이터 시각화와 데이터를 기반으로 한 이미지를 결합한 설치 작품도 선보인다.
블랙매직 디자인(Blackmagic Design)과 토파즈 랩스(Topaz Labs)와 같은 최고의 크리에이티브 앱 개발사는 소프트웨어에 RTX AI 가속을 통합했다. 텐서RT는 다빈치 리졸브(DaVinci Resolve)와 토파즈 앱에서 로토스코핑, 노이즈 제거, 초고해상도, 동영상 안정화와 같은 AI 효과를 두 배속으로 향상시킨다.
개발자와 일반 사용자들은 NIM 마이크로서비스를 활용할 수 있다. 업계 표준 API를 사용해 사전 구축된 이러한 AI 컨테이너는 몇 주가 걸리는 배포 시간을 몇 분으로 단축하는 데 도움이 되는 최적화된 솔루션을 제공한다. 이는 엔비디아, 게티 이미지(Getty Images), 구글, 메타(Meta), 마이크로소프트, 셔터스톡(Shutterstock) 등에서 제공하는 20개가 넘는 인기있는 모델과 함께 사용할 수 있다.
엔비디아 AI 워크벤치도 이제 정식 버전으로 제공된다. 이는 개발자가 PC급 성능과 메모리 공간을 사용해 사전 훈련된 생성형 AI 모델과 LLM을 빠르게 생성하고, 테스트하고, 사용자 맞춤화를 할 수 있도록 지원한다. 이를 통해 프로젝트를 쉽게 재현, 협업, 마이그레이션할 수 있는 간소화된 사용자 인터페이스를 이용할 수 있다. 아울러 허깅 페이스(Hugging Face), 깃허브, 엔비디아 NGC와 같은 인기 리포지토리도 쉽게 이용 가능하다.
추가 성능이 필요한 경우 데이터센터, 퍼블릭 클라우드 또는 엔비디아 DGX 클라우드(DGX Cloud)로 프로젝트를 쉽게 확장할 수 있다. 그런 다음 프로젝트를 추론 기능이나 가벼운 커스터마이징용 워크스테이션과 PC의 로컬 RTX 시스템으로 다시 가져올 수 있다. AI 워크벤치는 무료로 다운로드가 가능하며 개발자의 빠른 시작을 돕기 위해 예제 프로젝트를 제공한다.
GTC에서 발표되고 선보인 많은 도구들은 혁신적인 AI 솔루션 개발에 도움을 주고 있다.
이번 GTC는 블랙웰(Blackwell) 플랫폼의 출시부터 지구 기후를 위한 디지털 트윈까지 인상적인 소식들을 전했다. 또한 RTX PC와 워크스테이션의 사용자와 개발자가 생성형 AI의 미래를 엿볼 수 있는 기회를 제공했다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
