국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)가 클라우드 환경에서 운영되는 서비스형 소프트웨어(SaaS) 기반의 딥페이크 탐지 솔루션을 출시했다고 12일 밝혔다.
딥브레인AI는 최근 가짜 뉴스와 불법 음란물, 금융 범죄 등 각종 신종 범죄의 수단으로 딥페이크가 악용되는 사례가 늘어남에 따라, 이에 대응하는 탐지 기술에 대한 접근성을 높이고자 이번 SaaS형 딥페이크 탐지 솔루션을 공개했다. SaaS 도입 이전에는 제한된 접근성으로 국내 일부 관공서 등지에서 한정적으로 활용됐으나, 이젠 누구나 손쉽게 장소에 구애받지 않고 딥페이크 영상, 이미지, 음성 등의 탐지가 가능해질 전망이다.
딥브레인AI는 글로벌 탑티어 수준의 생성형 AI 아바타 제작 솔루션과 내부 축적된 다량의 딥러닝 기반 AI 휴먼 데이터를 토대로 딥페이크 탐지 솔루션을 제작해 완성도를 높였다. ▲종합탐지 ▲음성탐지 2가지 서비스를 제공하며, 한국어를 비롯해 영어, 중국어, 일본어 등 4개 언어를 지원한다.
종합탐지 서비스는 조작된 이미지와 동영상을 탐지한다. 우선 가상 얼굴 생성 기능인 ‘페이스 제너레이션(Face Generation)’과 특정인의 얼굴로 교체하는 ‘페이스 스왑(Face Swap)’, ‘립싱크’ 등의 기술 적용 여부를 확인한다.
음성탐지 서비스를 통해 조작된 음성 탐지도 가능하다. 음성의 주파수와 시간 등을 고려해 종합 분석하는 방식으로 음성 합성 여부를 판별한다. 아울러 AI를 활용해 자연스러운 목소리를 만드는 보코더(Vocoder) 등의 사용 여부도 확인할 수 있다.
SaaS형 딥페이크 탐지 솔루션은 현재 딥브레인AI 홈페이지(www.deepbrain.io)에서 문의하기를 통해 구입 후 사용할 수 있다. 딥브레인AI는 추후 별도의 문의 없이도 홈페이지 내에서 간편 결제를 통해 솔루션을 사용할 수 있도록 접근 편의성 개선 작업을 진행할 방침이다.
특히 4월 제22대 총선, 11월 미국 대통령 선거 등을 앞두고 국내외 정부기관, 언론사, 관계자로부터 딥페이크 탐지 솔루션에 대한 문의가 잇따르고 있는 상황이다. 딥브레인AI는 이번 SaaS형 딥페이크 탐지 솔루션을 바탕으로 누구나 쉽고 간편하게 허위사실 유포를 예방하고, 혼란을 최소화할 수 있도록 적극 지원할 방침이다.
장세영 딥브레인AI 대표는 “사람을 돕는 기술로 활용돼야 할 AI 기술이 신종 범죄 수단으로 악용되고 있어 매우 안타깝게 생각한다”며, “딥브레인AI는 생성형 AI 대표 기업의 강점을 살린 완성도 높은 딥페이크 탐지 솔루션을 SaaS 형태로 전 세계에 적극 지원하며 글로벌 딥페이크 범죄 근절에 앞장설 것”이라고 밝혔다.
|
[영상] NVIDIA RTX SPARK는 인텔과 AMD의 X86 노트북 시장을, AI를 무기로 정복할 수 있을까? 
