진위 검증을 위한 재합성 기반 인증 지표

초록

본 논문은 딥페이크와 같은 합성 미디어의 진위를 사후 검증하기 어려운 문제를 해결하고자, 최신 생성 모델에 대한 재합성 가능성을 평가하는 “인증 지표(A‑index)”를 제안한다. 이미지·비디오 등 다중 모달리티에 적용 가능하며, 재합성 오류를 정량화해 고정된 낮은 위양성률(FPR) 하에서 높은 정밀도를 유지한다. 또한 계산 제한이 있는 공격자에 대해 견고함을 보이며, 기존 탐지기 대비 일반화와 공격 저항성이 우수함을 실험적으로 입증한다.

상세 분석

이 연구는 기존 딥페이크 탐지기의 두 가지 근본적 한계—(i) 사후 검증이 불가능한 경우가 존재해 위양성률이 통제 불가능하고, (ii) 적은 연산량으로도 탐지기를 회피할 수 있는 적대적 공격에 취약함—을 정확히 짚어낸다. 이를 극복하기 위해 저자들은 “재합성 가능성”이라는 새로운 개념을 도입한다. 핵심 아이디어는 주어진 이미지가 현재 공개된 생성 모델(특히 확산 모델)로부터 얼마나 정확히 재생성될 수 있는지를 측정함으로써, 진위 여부를 이진 판단이 아닌 “인증 가능성”과 “합리적 부인 가능성”으로 구분하는 것이다.

구현 측면에서 논문은 최신 확산 모델의 역전 과정을 활용한다. 기존의 픽셀‑레벨 역전은 연산 비용이 높고 최적화가 불안정하지만, 저자들은 “재구성‑프리 역전(RF‑Inversion)”을 채택한다. 이는 이미지의 핵심 특징(푸리에 스펙트럼, 웨이블릿 등)을 추출한 뒤, 얕은 인코더를 통해 잠재 공간으로 매핑하고, 해당 잠재 변수로부터 생성 모델이 만든 이미지와 원본 이미지 간의 특징 차이를 측정한다. 이 방식은 고해상도 이미지에서도 빠르게 처리할 수 있어 대규모 소셜 미디어 데이터에 적용 가능하다.

특징 차이를 정량화하기 위해 네 가지 지표—PSNR, SSIM, LPIPS(1‑LPIPS 형태), CLIP 코사인 유사도—를 선형 결합하고, 시그모이드 스케일링을 통해 01 사이의 “A‑index”를 산출한다. 가중치 α₁α₄는 실제 이미지와 합성 이미지의 점수 분포 겹침을 최소화하도록 차등 진화(differential evolution) 최적화로 학습된다. 이렇게 얻어진 A‑index는 높은 값일수록 생성 모델이 원본을 거의 완벽히 재현할 수 있음을 의미하며, 따라서 해당 이미지의 진위를 확정할 수 없다는 “합리적 부인 가능성”으로 해석된다. 반대로 낮은 값은 재합성이 어려워 진위가 확신될 수 있음을 나타낸다.

논문은 이 지표를 활용해 고정된 안전 임계값 τₛₐfₑ를 설정하고, τₛₐfₑ 이상인 경우 1% 이하의 위양성률을 보장하면서 “진짜”로 인증한다. 이는 기존 탐지기가 전체 데이터에 대해 일관된 위양성률을 유지하기 어려운 점을 보완한다.

보안 측면에서는 기존 FGSM·PGD와 같은 로그‑기반 공격이 적용되지 않음을 지적하고, 역전 파이프라인 자체를 목표로 하는 새로운 적대적 목표를 정의한다. 공격자는 ℓ∞‑제한 하에 입력에 미세한 섭동 δ를 추가해 A‑index를 인위적으로 상승·하강시킬 수 있다. 저자들은 PGD‑style 최적화를 역전 네트워크에 직접 적용해 공격을 시뮬레이션하고, 동일 연산 예산(예: 10‑step PGD)에서 기존 탐지기 대비 A‑index 기반 방법이 훨씬 낮은 성공률을 보임을 실험으로 입증한다.

다중 모달리티 확장도 중요한 기여 중 하나다. 이미지 외에 비디오에 대해 프레임‑단위 RF‑Inversion을 수행하고, 시간적 일관성을 고려한 평균 A‑index를 사용해 동일한 인증·부인 프레임워크를 적용한다. 대규모 Reddit 이미지 3,000장에 대한 실험에서는 약 30%가 “합리적 부인 가능” 영역에 속함을 보여, 실제 온라인 환경에서 진위 검증이 얼마나 어려운지를 강조한다.

전체적으로 이 논문은 “재합성 가능성”이라는 새로운 측정 기준을 제시함으로써, 딥페이크 탐지의 목표를 “진위 판단”에서 “진위 확신 가능성”으로 전환한다. 고정된 낮은 위양성률, 계산 제한 공격에 대한 견고함, 그리고 모달리티 독립성을 동시에 만족시키는 점이 학술적·실용적 가치가 크다.