AI를 활용해 조작된 이미지로 잘못된 정보를 제공, 이를 통해 잘못된 여론을 끌어내거나 타인에 피해를 주는 등의 부작용을 방지하기 위해, 메타에서 자사 SNS(페이스북/ 인스타그램/ 스레드)에 AI 생성 이미지 구분 조치를 시행한다.
이미 메타에서 직접 서비스하는 AI 엔진을 통해 생성된 이미지에 워터마크를 삽입하는데 이어, 이번 조치는 오픈AI와 구글 등 서드파티 AI 엔진을 이용한 이미지를 구분하기 위한 것이다. 메타의 AI 엔진을 이용한 이미지와 달리 타사 AI 엔진 컨텐츠는 글머리에 'AI Info'라는 문구로 구분한다. 이번 디자인은 최종 결정 사항이 아니며, 공식 출시될 경우 구별 방식은 지금과 달라질 수 있다.
메타는 서드파티 AI 생성기를 통해 만들어진 이미지에 '보이지 않는 마커 식별' 도구도 개발 중이라고 알렸다. 해당 기능은 편집툴로 수정 불가능한 독특한 태그(메타 데이터)를 추가하기 위한 것으로, 자신들 뿐 아니라 다른 업체들도 이러한 움직임에 동참해줄 것을 호소했다.
한편, 메타는 현재 시점에서는 영상과 음향의 AI 생성 여부를 감지 기술이 없다는 점을 인정하면서, 사용자들이 AI 이용여부를 스스로 표시하는 '명예'를 보여줄 것도 당부했다.
|
[뉴스] X, ‘X for Brands 2025’ 컨퍼런스 개최 
