국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)는 딥페이크 탐지 솔루션을 고도화했다고 3일 밝혔다. 조작된 영상 검출은 물론 이미지, 음성까지 탐지 범위를 확대했다.
딥페이크(Deepfake)란 AI를 활용해 특정인의 얼굴과 목소리, 행동까지 그대로 재현한 위조 콘텐츠를 일컫는다. 스마트폰 앱으로 딥페이크 영상을 쉽게 만들 수 있는 등 기술 장벽이 낮아지며 사회에 많은 혼란을 야기하고 있다. 다가오는 미국 대선을 앞두고 가짜 뉴스, 불법 음란물 등 범죄에 악용되는 사례가 지속적으로 늘고 있는 상황이다.
딥브레인AI는 딥러닝 기반 영상·음성 합성과 자연어 처리 기술을 융합한 AI 휴먼 솔루션(AI Human)과 글로벌 수준의 생성형 AI 아바타 제작 솔루션 등 우수한 AI 기술을 바탕으로 완성도 높은 딥페이크 탐지 솔루션을 선보였다. 세부적으로는 ▲종합 탐지 모델 ▲특정 인물 탐지 모델 ▲음성 탐지 모델로 구성된다.
먼저, '종합 탐지 모델'은 합성곱 신경망(CNN, Convolution Neural Network)과 구글의 자연어 처리 모델인 트랜스포머(Transformer)를 기반으로 설계됐다. 세상에 존재하지 않는 가상 인간의 얼굴을 제작하는 페이스 제너레이션(Face Generation)과 원하는 얼굴로 교체하는 페이스 스왑(Face Swap), 립싱크 등의 기술 적용 여부를 구분해 조작된 이미지와 동영상을 탐지한다.
또한, 특정 인물의 영상 데이터로 얼굴 특징, 체형, 행동 패턴 등을 분석해 딥러닝 학습을 진행한 후 특정 인물에 대한 진위 여부를 판별하는 '특정 인물 탐지 모델'과 TTS(Text To Speech)나 보코더(Vocoder) 등 음성 합성 여부를 탐지하는 '음성 탐지 모델'을 제공한다. 특히, 음성 탐지 모델은 음성의 주파수와 시간 등을 각각 고려하여 분석 후 모델 학습을 진행하는 음성 판별 방식을 사용하며, 국내 통신사와 협력해 범죄 수법이 날로 진화하고 있는 보이스피싱 예방에 활용할 계획이다.
딥페이크 탐지 솔루션은 한국어, 영어, 중국어, 일본어를 우선 지원한다. 현재 국내 일부 관공서에서 활용되고 있으며, 은행, 증권, 보험 등 금융권과 통신사를 비롯해 선거관리위원회, 방송통신위원회 등 국내외 다양한 산업군에서도 활용할 수 있도록 맞춤형 지원을 적극 확대할 예정이다. 나아가 일반 소비자도 쉽고 간편하게 사용 가능한 딥페이크 SaaS(서비스형 소프트웨어) 서비스도 연내 자사 홈페이지에 공개하기 위해 준비 중이다.
이 밖에도 딥브레인AI는 과학기술정보통신부가 추진하는 인공지능 학습용 데이터 구축 사업 중 '딥페이크 변조 영상 AI 데이터' 분야의 수행 기업으로 선정돼 변조 영상 탐지 기술 개발용 AI 데이터 구축에 참여했으며, 서울대학교와 함께 딥페이크 등을 탐지하는 AI 경진대회를 개최한 바 있다. 2021년에 열린 국제 컴퓨터 비전 학회(ICCV)에서는 세계 최대 규모 한국인 딥페이크 탐지 데이터셋 'KoDF(Korean DeepFake Detection Dataset)'를 다룬 연구 논문이 채택되는 등 딥페이크 악용 방지를 위한 노력을 지속하고 있다.
[영상] 딥시크 쇼크, 엔비디아와 고성능 GPU 수요에 미치는 영향은? 
