엔비디아가 엔비디아(NVIDIA) 창립자 겸 CEO인 젠슨 황(Jensen Huang)이 지난 18일 화요일 미국 및 국제 유틸리티 협회인 에디슨 전기협회(Edison Electric Institute, EEI)의 연례 회의에 참석했다고 밝혔다.
젠슨 황은 이날 전력망과 이를 관리하는 유틸리티는 AI와 가속 컴퓨팅이 주도하는 차세대 산업 혁명에서 중요한 역할을 담당하고 있다고 강조했다.
젠슨 황은 전력망이 AI 기반 스마트 계량기를 사용해 고객들이 여분의 전력을 이웃에게 판매할 수 있도록 하는 방법을 하나의 예시로 설명했다.
오늘날의 전력망은 주로 몇몇 대형 발전소와 많은 사용자를 연결하는 단방향 시스템이다. 그러나 앞으로는 태양광 패널, 배터리, 전기 자동차 충전기를 갖춘 가정과 건물을 연결하는 태양광과 풍력 발전소를 통해 양방향의 유연하고 분산된 네트워크가 될 것으로 예상된다.
이는 방대한 양의 데이터를 실시간으로 처리하고 분석하는 자율 제어 시스템을 필요로 하는 대규모 작업으로, AI와 가속 컴퓨팅에 적합한 작업이다.
엔비디아의 기술을 사용하는 광범위한 기업 생태계 덕분에 AI는 전력망 전반의 사용 사례에 적용되고 있다.
최근 GTC 세션에서 유틸리티 공급업체 허벨(Hubbell)과 엔비디아 인셉션(Inception) 프로그램 회원인 스타트업 유틸리데이터(Utilidata)는 엔비디아 젯슨(Jetson) 플랫폼을 사용하는 차세대 스마트 미터에 대해 설명했다. 엔비디아 젯슨은 유틸리티가 엣지에서 AI 모델을 사용해 실시간 전력망 데이터를 처리하고 분석하기 위해 배포하는 플랫폼이다. 최근 딜로이트(Deloitte)는 이러한 계획을 지원한다고 발표했다.
지멘스 에너지(Siemens Energy)는 별도의 GTC 세션에서 변전소 변압기의 디지털 트윈을 구축해 예측 유지보수를 개선하고 전력망 복원력을 강화하기 위해 AI와 엔비디아 옴니버스(Omniverse)를 사용한 작업에 대해 자세히 설명했다. 또한 지멘스 가메사(Gamesa)가 옴니버스와 가속 컴퓨팅을 통해 대규모 풍력 발전 단지의 터빈 배치를 최적화한 방법을 영상으로 소개했다.
이러한 발전은 엔비디아가 AI 배포에 필요한 비용과 에너지를 절감하면서 이루어졌다.
젠슨 황은 최근 컴퓨텍스(COMPUTEX) 기조연설에서 지난 8년 동안 엔비디아는 최첨단 거대 언어 모델(large language models, LLM)에서 AI 추론 실행의 에너지 효율성을 무려 45,000배 향상시켰다고 말했다.
엔비디아 블랙웰(Blackwell) 아키텍처 GPU는 AI와 고성능 컴퓨팅을 위해 CPU보다 약 20배 더 높은 에너지 효율성을 제공한다. 이러한 작업을 위한 모든 CPU 서버를 GPU로 전환하면 사용자는 연간 37테라와트시(TWh)를 절약할 수 있다. 이는 이산화탄소 2,500만 메트릭 톤과 500만 가구의 전기 사용량에 해당하는 양이다.
이러한 이유로 세계에서 가장 에너지 효율적인 슈퍼컴퓨터를 선발하는 그린500(Green500)의 최신 순위에서 엔비디아 기반 시스템이 상위 10위 중 무려 7자리를 차지할 수 있었다. 이중 1위에서 6위는 모두 엔비디아 기반 시스템이다.
또한 최근 한 보고서는 각국 정부가 여러 산업 분야에서 에너지 효율을 높이기 위한 중요한 새 도구로서 AI 도입을 가속화할 것을 촉구하고 있다. 또한 해당 보고서는 전력망의 효율성을 높이기 위해 AI를 도입한 유틸리티의 사례를 소개했다.
여기에서 유틸리티 기업들이 어떻게 AI와 가속 컴퓨팅을 도입해 운영을 개선하고 비용과 에너지를 절감하고 있는지 자세히 알아볼 수 있다.
[영상] 대만산은 싸구려 취급하던 한국산 그래픽카드 전성시대,우리나라 그래픽카드시장 변화 이야기 [PC흥망사 12-1] 
