보이스피싱, 몸캠피싱 및 딥페이크 등 디지털 범죄 대응 전문기업 라바웨이브(대표 김준엽)가 생성형 인공지능의 딥페이크 제작 자체를 원천 차단하는 혁신적인 보안 기술, ‘적대적 인공지능 기반 딥페이크 생성 방지 자동화 시스템 및 그 시스템의 동작 방법’에 대한 특허를 출원했다고 4일 밝혔다.
이번 특허 출원은 기존의 '생성된 딥페이크를 탐지'하는 수동적 방어 방식에서 벗어나 '딥페이크가 만들어지는 과정 자체를 교란•차단'하는 능동적 방어 기술로의 패러다임 전환을 제시하는 것으로 평가받고 있다.
이번 '적대적 인공지능(AI) 기반 딥페이크 생성 방지 자동화 시스템'은 GAN, Diffusion Model, Flux 등 최신 생성형 AI 모델이 이미지를 위조하려는 시도를 실시간으로 감지하고, 적대적 교란 신호를 삽입하여 딥페이크 결과물의 품질을 구조적으로 저하시킨다.
세부적으로는 1)다중 영역 세그멘테이션, 2)이미지 정규화 및 전처리, 3)프롬프트-모델 매핑, 4)적대적 교란 주입, 5)방어 우회 시뮬레이션 등 완전 자동화된 5단계 메커니즘을 통해 middle-to low performance GPU 환경에서도 대부분의 이미지를 1분 이내에 처리할 수 있어 실시간 방어 시나리오에 즉시 적용이 가능한 점이 핵심적 기술 구성이다.
또한 GAN, Diffusion, Flux 등 다양한 생성형 AI 구조에 범용적으로 대응하는 확장성을 보유해 다중 모델에 대한 통합 대응이 가능하고, Deep nude 또는 re-dressing 등 다양한 공격 시나리오와 우회 전략을 자동 시뮬레이션하여 견고성을 검증하며, 고사양 장비 없이도 1분 이내 처리가 가능하여 클라우드 의존 없는 즉각적 방어 실현이 가능하다는 것이 주요 특징이다.
이 기술을 고도화, 상용화할 경우 금융권, 공공안전, 엔터테인먼트, 치안, 기업 보안 등 다양한 분야에서 금융 사기, 정치적 여론 조작, 연예인 및 일반인 사생활 침해 등 악의적 목적으로 활용되는 딥페이크 범죄에 대한 근본적인 해결책을 제시할 수 있을 것으로 기대된다.
라바웨이브 김준엽 대표는 "기존 딥페이크 탐지 기술은 이미 생성된 콘텐츠를 사후에 판별하는 방식에 그쳐 발전 속도가 빠른 AI 환경에서 적극적 대응의 한계가 명확했다"며, "본 기술은 생성 자체를 불가능하게 만드는 선제적 방어 시스템으로서 다양한 분야에서 보호망 역할을 할 수 있을 것"이라고 강조했다.
[뉴스] 가트너, 개인정보, 데이터 유출보다 AI 추론 경계 강조 
