배치 통계 활용 공변량 변이 탐지: DisCoPatch

초록

DisCoPatch는 배치 정규화(BN)의 통계 차이를 이용해 공변량 변이를 효과적으로 탐지하는 무감독 VAE‑GAN 프레임워크이다. 이미지 하나를 여러 패치로 나누어 동일 배치에 넣음으로써 BN이 동일 분포의 통계만을 학습하도록 유도하고, VAE가 생성·재구성한 저품질 패치를 음성 샘플로 사용해 판별기를 훈련한다. 결과적으로 ImageNet‑1K(-C)에서 95.5% AUROC, Near‑OOD에서 95.0% AUROC를 달성하며, 25 MB 모델 크기와 낮은 지연 시간으로 실시간 OOD 탐지에 적합하다.

상세 분석

본 논문은 배치 정규화(Batch Normalization, BN)가 갖는 “두 도메인 가설”(clean 이미지와 adversarial 이미지가 서로 다른 평균·분산을 가진 별도 도메인으로 작동한다)을 OOD 탐지에 활용한다는 점에서 혁신적이다. 기존 GAN 기반 판별기는 전체 배치를 섞어 사용하기 때문에 BN이 서로 다른 분포를 동시에 학습하게 되고, 이는 통계 혼합으로 인한 경계 모호화를 초래한다. DisCoPatch는 이미지 하나를 다수의 패치로 분할하고, 같은 이미지에서 추출한 패치들만을 하나의 배치로 구성함으로써 BN이 동일한 데이터 분포(즉, 동일 이미지 내의 지역적 변이)만을 반영하도록 설계한다. 이렇게 하면 BN의 이동 평균·분산이 실제 ID 데이터의 통계와 강하게 일치하게 되고, 판별기는 이러한 “정규” 통계와 비정규(생성·재구성) 패치의 통계 차이를 명확히 구분할 수 있다.

학습 단계에서는 VAE가 ELBO 손실을 최소화하면서 동시에 디코더가 생성한 가짜 패치를 판별기가 속이도록 학습한다. 추가로, VAE가 재구성한 패치도 음성 샘플로 사용함으로써, 재구성 오류가 큰 저주파 변이(blur 등)와 고주파 잡음(artifact) 모두에 민감한 판별기를 만든다. 이는 기존 GAN이 고주파 차이에만 과도하게 집중해 저주파 변이를 놓치는 문제를 보완한다.

또한 DisCoPatch는 훈련 시 BN의 모멘텀 파라미터 m을 1로 고정해 현재 배치 통계만을 사용하도록 함으로써, 추론 시에도 동일한 메커니즘이 유지된다. 따라서 추론 단계에서는 VAE 전체를 폐기하고 판별기만을 사용해 패치 배치를 입력받아 OOD 점수를 산출한다(즉, 경량화와 지연 시간 감소). 실험 결과는 ImageNet‑1K(-C)와 Near‑OOD 벤치마크에서 각각 95.5%·95.0% AUROC를 기록, 기존 최첨단 방법들을 능가한다. 모델 크기 25 MB, 추론 지연이 수십 배 빠른 점도 실시간 시스템 적용 가능성을 크게 높인다.

핵심 기여는 (1) BN 통계 차이를 OOD 탐지에 체계적으로 활용한 분석, (2) 패치 기반 배치 구성으로 BN의 도메인 구분 능력을 강화한 DisCoPatch 프레임워크, (3) 공변량 변이와 Near‑OOD 모두에서 SOTA 성능을 달성하면서도 경량·저지연을 구현한 점이다.