디지털 솔루션 제공 기업 지브라 테크놀로지스(Zebra Technologies)는 클라우드와의 연결 없이 자사 핸드헬드 모바일 컴퓨터 및 태블릿에서 생성형 인공지능(GenAI) 대형 언어 모델(LLM)을 성공적으로 구현했다고 밝혔다.
지브라 테크놀로지스의 파트너사와 고객들은 이 획기적인 기술을 통해 소매업부터 창고, 물류, 호텔/리조트, 헬스케어 부문에 이르기까지 산업 전반에 걸쳐 미래의 업무 환경에 놀라운 생산성 향상을 실현할 수 있다. 온디바이스에서 실행되는 GenAI LLM은 현장 근로자에게 전례 없는 기능적 역량을 부여함으로써 최종 고객에게 새로운 수준의 성과를 제공할 수 있는 잠재력을 갖췄다.
온디바이스 AI는 데이터가 디바이스 내에 저장되므로 추가적인 개인 맞춤형 기능은 물론, 강화된 프라이버시 및 보안을 제공한다. 또한, 클라우드에서의 GenAI 기반 검색은 비용이 많이 소요될 수 있는 반면, 온디바이스에서의 AI는 보다 향상된 성능 및 절감된 비용으로 사용을 지원한다. 퀄컴 테크놀로지스에서 발간한 백서에 따르면 GenAI 기반의 검색 쿼리당 비용은 기존 검색 방식에 비해 10배가량 증가할 것으로 추정됐다. 반면, 온디바이스 AI는 클라우드 활용의 필요성을 제거함으로써 비용 절감을 가능케한다.
LLM의 사용 가능 사례로는 제품 및 고객 서비스 지식 향상을 통한 직원의 효율성 개선, 매장 정책과 같은 직원 문의에 대한 답변 제공을 통한 효율적인 내부 커뮤니케이션 툴(tool) 구축, 직원의 피드백 수집 및 분석을 통한 개선점 파악, 생산성 및 직무 만족도 향상 등이 있다.
또한, LLM은 제품 추천 서비스를 제공하는 맞춤형 쇼핑 도우미 기능을 지원하고, 매장, 온라인, 모바일 플랫폼 전반에서 쇼핑 경험을 통합하며, 음성 인식 기반 완전한 음성 활성화 쇼핑을 지원함으로써 고객 경험을 향상시킬 수 있는 잠재력 기회를 제공한다.
퀄컴 테크놀로지스 기술이 탑재된 지브라의 TC53/TC58 및 TC73/TC78 모바일 컴퓨터와 ET6x 시리즈 태블릿은 지브라의 자산 가시성 및 지능형 자동화 솔루션과 더불어, 향상된 데이터 인사이트, 분석 및 권장 사항과 문제 해결 능력, 계획 및 창의성을 제공한다. 이를 통해 현장 근로자들은 클라우드 연결이 불가능한 시골, 건물 및 지하 작업 환경에서도 더 작은 온디바이스 모델을 활용할 수 있다. 혹은 사용자는 지브라의 Wi-Fi 6/6E 및 5G 지원 디바이스를 통해 클라우드 기반 앱 또는 브라우저 GenAI 툴로 전환할 수 있다.
퀄컴 테크놀로지스의 제품 관리 부문 수석 디렉터 메가 다가(Megha Daga)는 “온디바이스 GenAI는 산업 전반에 걸쳐 새롭고 강화된 경험을 제공하고 있다”며, “퀄컴 테크놀로지스의 목표는 산업 혁신을 주도하는 것이며, 이를 모바일 디바이스부터 시작해 나가고 있다. 지브라 테크놀로지스의 성공적인 구현은 당사가 달성하고자 하는 혁신을 보여주고 있다”고 덧붙였다.
퀄컴 테크놀로지스의 플랫폼을 사용한 지브라 테크놀로지스의 이 획기적인 솔루션은 메모리 요구사항을 줄이고, 다양한 오픈 소스 및 서드 파티 모델을 기반으로 구축되었다. 이는 여러 산업 분야에 걸쳐 효과적인 최첨단 AI 솔루션을 제공하고자 하는 지브라 테크놀로지스의 전략의 중요한 부분이다.
[영상] 엔비디아에 대응하는 인텔 가우디3/AMD MI300/범클라우드 진영의 NPU/,그리고 AI 하드웨어 개발 흐름과 추세는? 
