국내 생성형 인공지능(AI) 전문 기업 딥브레인AI(대표 장세영)는 딥페이크 탐지 기술을 필요로 하는 기업·기관을 위한 API(애플리케이션 프로그래밍 인터페이스) 서비스를 론칭한다고 11일 밝혔다.
이번 API 서비스는 문화체육관광부와 한국콘텐츠진흥원이 주관한 ‘문화기술 연구개발’ 사업의 일환으로 추진됐다. 기존에는 딥브레인AI 플랫폼 내에서만 제공하던 딥페이크 탐지 기능을 외부 프로그램에서도 활용할 수 있도록 그 도입 범위를 확장했다. 영상·음성·이미지 등 콘텐츠의 진위 여부를 검증해야 하는 외부 기업·기관은 이제 별도의 시스템 구축 없이 해당 기능을 활용할 수 있게 됐다.
딥브레인AI의 딥페이크 탐지 솔루션 ‘AI 디텍터(AI Detector)’는 △영상 탐지 △이미지 탐지 △음성 탐지 기술을 바탕으로 페이스 제너레이션(Face Generation), 페이스 스왑(Face Swap), 립싱크 합성(Lip Sync) 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다. 특히, 픽셀(화면의 가장 작은 단위) 차이로 딥페이크 여부를 판별하는 고도화된 기술력과 국내 최다 레퍼런스를 바탕으로 국내 최초 관공서 대상 상용화에도 성공한 바 있다.
현재 AI 디텍터는 다양한 온라인 플랫폼에서 활용되며 높은 만족도를 기록하고 있다. 콘텐츠 업로드 단계부터 영상과 이미지를 자동 검증해 조작되거나 불법으로 생성된 콘텐츠 확산을 사전 차단하고, 게시 이후에도 지속적인 모니터링을 통해 의심되는 콘텐츠를 실시간 판별해 신속히 대응하고 있다. 또한, 불법 성인물 등 유해 콘텐츠는 2차 피해를 막기 위해 노출 부위를 블러 처리하는 등 윤리적 기준을 한층 강화해 건강한 온라인 환경 조성에 기여하고 있다.
장세영 딥브레인AI 대표는 “딥페이크 기술이 빠르게 확산하면서 AI가 만든 콘텐츠의 진위를 구분하는 일은 점점 더 중요해지고 있다”며 “이번 API 론칭은 기업·기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있도록 한 데 의미가 있다. 딥브레인AI는 신뢰할 수 있는 AI 기술 개발을 통해 누구나 안전하게 디지털 콘텐츠를 이용할 수 있는 환경을 만드는 데 앞장서겠다”고 밝혔다.
|
[영상] NVIDIA RTX SPARK는 인텔과 AMD의 X86 노트북 시장을, AI를 무기로 정복할 수 있을까? 
