표현 및 학습 패러다임 변화에 따른 OOD 탐지 체계적 분석

초록

본 논문은 CNN과 Vision Transformer 두 가지 백본을 대상으로, 클래스 수와 분포 이동 정도에 따른 OOD 탐지 방법들을 AURC·AUGRC 지표로 포괄적으로 비교한다. CLIP 임베딩 기반으로 OOD 데이터를 근접·중간·원거리로 구분하고, 신경 붕괴(Neural Collapse) 메트릭을 활용해 특징 공간의 구조와 탐지 성능의 관계를 해석한다. 실험 결과, 확률 기반 점수(MSR, GEN)가 ID 오류 탐지에 강하고, 강한 시프트에서는 기하학적 점수(NNGuide, fDBD, CTM)가 CNN에서, GradNorm·KPCA 재구성 오차가 ViT에서 우수함을 보여준다.

상세 분석

본 연구는 OOD 탐지 성능을 평가할 때 기존에 널리 쓰이던 FPR@95나 AUROC 대신, 선택적 위험을 전체 커버리지 구간에 걸쳐 통합한 AURC와 이를 일반화한 AUGRC를 기본 메트릭으로 채택함으로써, 탐지기의 실제 운영 위험을 보다 정량적으로 파악한다. 실험 설계는 두 축, 즉 백본(From‑scratch CNN vs. Fine‑tuned ViT)과 신뢰 점수 함수(Probabilistic, Geometry‑aware, Gradient‑based 등)를 전면 교차시켜 2×다수의 OOD 스코어를 12개의 데이터셋(CIFAR‑10/100, SuperCIFAR‑100, TinyImageNet)과 3단계(near, mid, far) 시프트에 적용하였다. 특히 CLIP 이미지 임베딩을 활용해 각 OOD 데이터셋을 FD와 MMD 기반 거리와 클래스‑조건부 코사인 거리로 정량화하고, K‑Means 클러스터링으로 근접·중간·원거리 그룹을 자동 생성함으로써, 인간 주관에 의존하지 않는 시프트 정의를 제공한다.

특징 공간 분석에서는 Neural Collapse(NC) 메트릭을 도입해, 학습이 진행될수록 클래스 중심(mean)과 가중치 벡터가 서로 정렬되고, 클래스 내 변동성(Within‑class variance)이 감소하는 현상을 정량화한다. 논문은 NC가 강한 시프트(특히 far OOD)에서 Geometry‑aware 스코어가 우수한 이유를 설명한다. 즉, 클래스 프로토타입 간 각도가 크게 벌어지고 경계가 명확해질수록 NNGuide·fDBD·CTM과 같은 거리 기반 점수가 클래스 간 구분을 효과적으로 활용하게 된다. 반면, ViT에서는 토큰 레벨의 다중 헤드 특성이 Gradient‑Norm과 KPCA 재구성 오차에 유리하게 작용해, 시프트가 커져도 이들 스코어가 안정적인 성능을 유지한다는 점을 발견했다.

또한, Monte‑Carlo Dropout(MCD)의 경우, 클래스 수가 증가할수록 불확실성 추정이 분산되고, 따라서 AURC 상에서 오히려 성능 저하가 나타나는 trade‑off를 보고한다. 이를 완화하기 위해 전역 PCA 차원 축소 후 재구성 오차를 이용한 간단한 프리프로세싱이 여러 스코어(MSR, GEN, GradNorm 등)에 일관된 성능 향상을 제공한다는 실험 결과를 제시한다. 통계적 검증은 Friedman 테스트와 Conover‑Holm 사후 검정을 통해 다중 비교를 제어하고, 동일 성능 그룹을 Bron‑Kerbosch 알고리즘 기반 클리크 분석으로 시각화함으로써, 결과의 재현성과 신뢰성을 높였다.

전체적으로 논문은 “특징 공간이 OOD 탐지 효율을 결정한다”는 핵심 가설을 실험·이론적으로 뒷받침하고, 백본 종류와 클래스 수, 시프트 강도에 따라 최적의 스코어 선택이 달라짐을 정량적으로 제시한다. 이는 실무에서 모델 선택 및 OOD 방어 전략을 설계할 때, 단순히 베이스라인 점수에 의존하기보다 학습된 표현의 기하학적 특성을 고려해야 함을 의미한다.