이미지 분류를 위한 반파라메트릭 OOD 탐지 프레임워크 COMBOOD

초록

COMBOOD는 최근 이미지 인식 분야에서 주목받는 OOD(Out‑of‑Distribution) 탐지를 위해 최근접 이웃 거리와 Mahalanobis 거리를 결합한 반파라메트릭 방법을 제안한다. 비파라메트릭 방식은 근접 OOD에 강하고, 파라메트릭 Mahalanobis는 원거리 OOD에 유리한 특성을 활용해 두 신호를 로그 변환 후 단순 합산하여 신뢰 점수를 산출한다. 실험 결과 OpenOOD v1·v1.5와 문서 데이터셋에서 기존 최첨단 방법들을 통계적으로 유의하게 능가했으며, 임베딩 차원에 대해 선형 시간 복잡도를 유지한다.

상세 분석

본 논문은 이미지 분류 모델이 추론 단계에서 입력이 학습 분포와 일치하는지 여부를 판단하는 OOD 탐지 문제를 다룬다. 기존 연구에서 Mahalanobis 거리 기반 방법은 고차원 임베딩 공간에서 원거리 OOD를 효과적으로 구분하지만, 학습 데이터와 유사한 근접 OOD에서는 구분력이 떨어진다. 반면 최근접 이웃(k‑NN) 기반 비파라메트릭 접근은 근접 OOD에 강점을 보이나, 원거리 OOD에 대한 확신도가 낮고 대규모 데이터셋에서 계산 비용이 증가할 수 있다. COMBOOD는 이 두 접근의 장점을 결합하기 위해 다음과 같은 설계를 채택한다. 첫째, 두 거리 측정값을 각각 로그 변환하여 확률적 해석이 가능한 신뢰 점수(kc, mc)를 만든다. 여기서 kc는 k‑NN 거리 kd에 대해 (-\sqrt{n}\log(kd)) 형태로 정의되고, mc는 정규화된 Mahalanobis 거리 md에 대해 (\log\big(\exp(-md^2/2)/( (2\pi)^{n/2}\det(M’)^{1/2})\big)) 로 계산된다. 둘째, 두 점수를 가중치 없이 단순히 합산(score = kc + mc)함으로써 사용자가 별도 가중치를 튜닝할 필요를 없앤다. 이 설계는 두 거리의 확률 분포가 서로 보완적인 정보를 제공한다는 가정에 기반한다.

특징 추출 단계에서는 두 가지 전략을 실험한다. (1) 입력 이미지의 전역 극값(최대·최소)을 각 레이어별로 추출하고, Yeo‑Johnson 변환을 적용해 정규화하는 방법. 이 방법은 차원이 매우 낮아 Mahalanobis 거리 계산이 효율적이며, 원거리 OOD에 대해 높은 정확도를 보인다. (2) 사전 학습된 네트워크의 penultimate 레이어 임베딩을 L2 정규화하는 방법. 이 고차원 임베딩은 k‑NN 거리와 결합했을 때 근접 OOD 구분에 뛰어난 성능을 발휘한다.

알고리즘 측면에서 정규화 Mahalanobis 거리(DM)는 공분산 행렬 M에 대각선 정규화 상수 C를 더해 안정성을 확보한다. C=0이면 표준 Mahalanobis, C가 커지면 L2 거리와 유사한 형태가 된다. 비파라메트릭 k‑NN은 훈련 임베딩을 인덱싱하고, 테스트 샘플에 대해 k번째 최근접 거리를 측정한다. 두 거리 모두 훈련 단계에서 라벨 정보를 전혀 사용하지 않으며, 완전한 비지도 방식이다.

실험에서는 OpenOOD v1, v1.5(다양한 far‑OOD·near‑OOD 시나리오)와 문서 이미지 데이터셋을 대상으로 기존 최첨단 방법들(예: ODIN, Mahalanobis, k‑NN 기반)과 비교하였다. 평가 지표는 AUROC, AUPR, FPR@95TPR 등이며, 대부분의 데이터셋에서 COMBOOD가 통계적으로 유의미한 개선을 기록했다. 특히 near‑OOD 상황에서 k‑NN 단독보다 약 3~5% 높은 AUROC를 달성했고, far‑OOD에서는 Mahalanobis와 동등하거나 약간 앞섰다. 또한 임베딩 차원 d에 대해 O(d) 시간 복잡도를 유지해 실시간 시스템에 적용 가능함을 입증했다.

한계점으로는 두 거리의 로그 변환 후 단순 합산이 모든 데이터셋에 최적은 아닐 수 있으며, C와 k 값 선택이 데이터 특성에 따라 민감하게 작용한다는 점을 언급한다. 향후 연구에서는 자동화된 하이퍼파라미터 튜닝 및 다중 거리(예: cosine, Wasserstein) 결합을 탐색할 여지가 있다.

전반적으로 COMBOOD는 파라메트릭·비파라메트릭 접근을 조화롭게 결합함으로써 OOD 탐지의 정확도와 효율성을 동시에 개선한 실용적인 프레임워크라 할 수 있다.