엔비디아가 새로운 엔비디아 NIM(NVIDIA NIM)과 네모 리트리버(NeMo Retriever) 마이크로서비스를 통해 기업들의 소프트웨어 보안을 강화한다고 밝혔다.
생성형 AI 덕분에 소프트웨어가 소프트웨어를 작성하는 시대가 왔다. 또한 소프트웨어에 사이버 보안 혹은 기타 위험이 있는지도 확인할 수 있다.
엔비디아 창립자 겸 CEO 젠슨 황(Jensen Huang)은 GTC 기조연설에서 자사의 생성형 AI 기술을 통해 기업이 CVE(common vulnerabilities and exposures)와 기타 소프트웨어 보안 문제를 신속하게 감지하고 해결할 수 있는 방법을 공개했다.
새로운 엔비디아 NIM과 네모 리트리버(NeMo Retriever) 마이크로서비스를 엔비디아 모피어스(Morpheus) 가속 AI 프레임워크와 함께 작동하면 보안 분석가들이 기존 툴로는 몇 시간, 심지어 며칠이 걸리던 문제를 단 몇 초 만에 식별할 수 있게 해준다.
기존 방식에서는 발견된 취약점에 대한 해결책을 찾기 위해 상당한 수작업이 필요했다. 그러나 엔비디아 기술은 거대 언어 모델(LLM)과 검색 증강 생성(RAG)을 사용해 신속하고 자동화됐으며 실행 가능한 CVE 위험 분석을 가능하게 한다.
따라서 분석가들은 AI를 통해 운영 업무의 상당 부분을 가속화하고 사람들의 선택에 정보를 전달하는 데이터 기반 인사이트를 제공해, 이른바 '미래 기업'에서 CEO와 같은 의사 결정자 역할을 할 수 있게 됐다.
지난해 CVE 퍼블릭 데이터베이스에 보고된 소프트웨어 보안 결함이 사상 최고치를 기록했다. 이처럼 사이버 보안을 위한 생성형 AI는 점점 더 중요해지고 확산될 것으로 예상된다.
가트너(Gartner)는 2027년까지 생성형 AI가 애플리케이션 보안 테스트와 위협 탐지의 오탐률(False Positive Rate, FPR)을 30% 줄일 수 있을 것으로 예측했다.
엔비디아 생성형 AI 마이크로서비스와 모피어스는 엔비디아 AI 엔터프라이즈(AI Enterprise) 소프트웨어 플랫폼의 일부로 제공되고 있다. 이들은 대다수 전문 인력의 결과와 일치하는 매우 높은 수준의 정확도로 CVE 위험 분석을 신속하게 수행한다.
보안 분석가는 이러한 기술을 통해 새로운 소프트웨어 패키지의 생성 또는 CVE 탐지에 의해 활성화되는 거대 언어 모델과 이벤트 기반 RAG를 사용한다. 이를 통해 소프트웨어 패키지에 악용 가능하거나 취약한 구성요소가 포함돼 있는지 판단할 수 있다.
거대 언어 모델은 엔비디아 애플리케이션에서 소프트웨어 패키지의 취약점을 검사하기 위한 작업 목록을 생성한다.
그런 다음, 엔비디아 AI 기반 거대 언어 모델 에이전트가 내부와 외부 데이터 소스에서 소프트웨어의 규정 준수를 위해 취해야 할 안전 조치를 검색한다.
이 단계는 체크리스트의 모든 항목이 분류될 때까지 반복된다. 이후 애플리케이션은 상호작용을 요약하고 조치에 대한 타당한 이유를 생성한다. 그리고 이는 적절한 다음 단계를 결정하기 위해 인간 분석가에게 전달된다.
이러한 방식으로 이벤트 기반 RAG는 사람이 보안 조치를 감독하는 동안 생성형 AI가 일반적으로 완료하는 데 최대 며칠이 걸리는 연구 조사 작업을 획기적으로 가속화한다.
보안을 위해 엔비디아 생성형 AI를 활용하는 기업들
엔비디아는 자사의 내부 소프트웨어 개발 워크플로우의 보안을 보장하기 위해 해당 애플리케이션을 사용하고 있다.
이 애플리케이션은 평균적으로 단 몇 초 만에 400개 이상의 인터넷 검색을 수행하고, 다양한 기업 데이터 소스에서 500개 이상의 쿼리를 수행해 단일 소프트웨어 컨테이너를 분석한다. 이는 일반적으로 사람이 직접 할 때 최대 며칠이 걸리는 작업이다. 엔비디아는 하루에 1,000개 이상의 컨테이너를 스캔한다.
사이버 보안 분야의 선두주자인 크라우드스트라이크(CrowdStrike)는 엔비디아와 협력해 생성형 AI와 RAG를 구현하고 있다.
엔비디아 NIM, 네모 리트리버, 모피어스는 엔비디아 AI 엔터프라이즈를 통해 이용할 수 있다. 이는 생성형 AI 파운데이션 모델을 위한 빠르고 효율적인 런타임을 제공하는 클라우드 네이티브 소프트웨어 플랫폼으로 보안, 안정성, 관리 용이성, 지원을 제공해 생성형 AI 도입을 간소화한다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
