글로벌 AI 데이터 클라우드 기업 스노우플레이크(Snowflake)가 현지시각 3~6일 미국 샌프란시스코에서 열리고 있는 스노우플레이크 서밋 2024에서 기업들이 자사 플랫폼에서 엔비디아(NVIDIA) AI를 기반으로 맞춤형 AI 데이터 애플리케이션을 구축할 수 있도록 엔비디아와의 협력을 강화한다고 발표했다.
양사 협력을 통해 스노우플레이크는 엔비디아 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어를 적용, 네모 리트리버(NeMo Retriever) 마이크로서비스를 완전 관리형 LLM(대규모언어모델) 및 벡터 검색 서비스인 스노우플레이크 코텍스 AI(Snowflake Cortex AI)에 통합했다. 이를 통해 고객들은 맞춤형 모델을 다양한 비즈니스 데이터에 원활히 연결하고 정확한 응답을 제공할 수 있게 된다. 업계 최고 수준의 개방성을 갖춘 엔터프라이즈급 LLM 스노우플레이크 아크틱(Snowflake Arctic)은 엔비디아 텐서RT-LLM(TRT-LLM) 소프트웨어를 지원해 고도로 최적화된 성능을 제공한다. 또, 엔비디아 NIM(NVIDIA Inference Microservice) 추론 마이크로서비스로도 사용할 수 있게 돼 더 많은 개발자가 아크틱에서 인사이트를 얻을 수 있다.
기업들은 AI를 적용할 수 있는 다양한 방법들을 모색하고 있고, 맞춤화된 모델을 생성하기 위해 데이터 활용은 더욱 중요해졌다. 스노우플레이크와 엔비디아의 협력으로 기업들은 맞춤형 사례별 AI 솔루션을 빠른 속도로 구축할 수 있고, 이를 통해 기업들은 엔터프라이즈 AI의 잠재력을 실현하고 있다.
스노우플레이크 슈리다 라마스워미(Sridhar Ramaswamy) CEO는 “엔비디아의 풀스택 가속 컴퓨팅 및 소프트웨어와 스노우플레이크의 최신 AI 기능을 코텍스 AI에 통합시키는 것은 시장 판도를 바꿀 것”이라며 “양사는 모든 산업과 모든 기술 수준의 고객이 쉽고 효율적이며 안전하게 맞춤형 AI 애플리케이션을 기업 데이터에 구축할 수 있는 AI 의 새로운 시대를 열고자 노력하고 있다”고 강조했다.
엔비디아 젠슨 황(Jensen Huang) 창립자 겸 CEO는 “데이터는 AI 산업 혁명의 필수재다. 두 기업의 협력으로 고객이 기업 고유의 데이터를 정제하고 가치 있는 생성형 AI로 전환할 수 있도록 지원할 것”이라고 말했다.
스노우플레이크 코텍스 AI와 엔비디아 AI 엔터프라이즈 소프트웨어의 통합
스노우플레이크와 엔비디아는 네모 리트리버와 같은 엔비디아의 AI 엔터프라이즈(NVIDIA AI Enterprise) 소프트웨어 제품군의 핵심 기술을 코텍스 AI에 통합하기 위해 협력하고 있다. 이를 통해 기업들은AI 투자를 극대화하는 맞춤형 AI 기반 애플리케이션을 효율적으로 구축하고 활용할 수 있게 된다.
코텍스 AI에서 제공되는 엔비디아 AI 엔터프라이즈 소프트웨어 기능은 다음과 같다:
• 엔비디아 네모 리트리버(NeMo Retriever): 코텍스 AI 내에서 검색 증강 생성(retrieval-augmented generation, RAG) 기반의 AI 애플리케이션을 구축하는 기업이 보다 정확하고 효율적인 결과를 도출할 수 있는 정보 검색 기능을 제공한다.
• 엔비디아 트리톤 인퍼런스 서버(Triton Inference Server): 모든 플랫폼의 모든 애플리케이션에 대해 AI 추론을 배포, 실행 및 확장할 수 있는 기능을 제공한다.
또한, 양사 협력을 통해 고객들은 엔비디아 AI 소프트웨어 기반의 AI 솔루션 NIM을 스노우파크 컨테이너 서비스(Snowpark Container Services)에 네이티브 앱의 형태로 배포해 사용할 수 있다. 이를 통해 기업은 스노우플레이크 내 일련의 파운데이션 모델을 쉽게 배포할 수 있게 된다.
AI 기반 디지털 엔지니어링 기업 퀀티파이(Quantiphi)는 양사의 ‘엘리트’ 파트너로 스노우파크 컨테이너 서비스를 사용해 스노우플레이크 네이티브 앱(Snowflake Native Apps)을 구축하는 고객이다. 구축된 앱은 스노우플레이크 계정 내에서 실행돼 데이터를 보호하면서 수익화 기간을 단축하고 있다. 퀀티파이가 구축한 네이티브 앱 중 지식 근로자의 생산성을 높이기 위한 생성형 AI 플랫폼 바이오닉(baioniq™)과 은행, 금융 서비스, 보험업을 위한 AI 주도의 지능형 문서처리 플랫폼 도시피(Dociphi)는 특정 비즈니스 도메인 목적으로 개발되어 관련 비즈니스 업무 효율성을 높이는 데 도움을 주고 있다. 두 앱은 모두 엔비디아 니모 프레임워크(NVIDIA NeMo Framework)를 사용해 구축됐고, 스노우플레이크 마켓플레이스(Snowflake Marketplace)에서도 제공돼 스노우플레이크 환경에서 즉시 배포할 수 있다.
스노우플레이크 아크틱에 대한 지원 확대
지난 4월 출시된 최신 LLM 스노우플레이크 아크틱은 엔비디아 H100 텐서 코어 GPUs(H100 Tensor Core GPUs)를 통해 학습되었으며, 엔비디아 NIM에 통합돼 사용할 수 있어 몇 초 만에 시작할 수 있다. 엔비디아가 호스팅하는 아크틱 NIM은 엔비디아 AI 카탈로그(AI Catalog)를 통해 실시간으로 제공돼 개발자가 무료 크레딧을 사용하여 선호하는 인프라를 선택해 개방성이 가장 높은 기업용 LLM을 배포할 수 있도록 지원한다.
올해 초 양사는 AI 데이터 클라우드에서 단일 통합 AI 인프라 및 컴퓨팅 플랫폼을 제공하기 위해 파트너십을 발표했다. 이번 기술 혁신은 양사의 공동 목표에 따라 고객이 AI 여정을 성공적으로 수행할 수 있도록 지원한다.
[영상] 메모리 때문에 모든게 엉망! 지포스 RTX 5090 단종 및, 5080 24GB 출시 루머 총정리 
