긴꼬리 데이터에서 외부 데이터 없이 가상 이상치 합성으로 OOD 탐지 강화

초록

본 논문은 클래스 불균형이 심한 긴꼬리 환경에서 외부 OOD 데이터를 전혀 사용하지 않고, von Mises‑Fisher(vMF) 혼합 모델을 기반으로 저가능도 고리 영역에 가상 이상치를 합성한다. Geometry‑guided Outlier Synthesis(GOS)와 Dual‑Granularity Semantic(DGS) 손실을 통해 ID 클러스터를 압축하고 경계 마진을 명확히 하여, 기존 외부 데이터 의존 방법들을 능가하는 OOD 탐지 성능을 달성한다.

상세 분석

VMF‑GOS는 먼저 고차원 특징 공간을 정규화하여 단위 구면 위에 매핑하고, 각 클래스별 vMF 분포(평균 방향 µ_y, 농도 κ_y)로 모델링한다. 클래스 사전 π_y는 데이터 수 비율로 정의되어, 긴꼬리 상황에서 소수 클래스의 π_y가 매우 작음에도 불구하고 전체 혼합 모델에 포함된다. 핵심 아이디어는 고차원 구면에서 코사인 유사도와 χ² 분포가 점근적으로 동일해진다는 정리를 이용해, “저가능도 고리”(low‑likelihood annulus)를 수학적으로 정의하고, 이 영역에서 가상 이상치를 샘플링한다는 점이다. 구체적으로, χ²_{d‑1} 분포의 평균 μ_χ²와 표준편차 σ_χ²를 이용해 ξ ∼ Uniform(μ_χ²+2σ_χ², μ_χ²+3σ_χ²)를 추출하고, 이를 t = 1 − ξ/(2κ) 로 변환해 코사인 유사도 스칼라를 얻는다. 이후 Gram‑Schmidt 과정을 통해 무작위 노이즈 벡터를 µ_k와 직교하도록 정규화하고, 최종 가상 특징 z_gos = t µ_k + √(1‑t²) v_⊥ 로 구성한다. 이렇게 생성된 가상 이상치는 실제 ID 데이터와 방향적으로 멀리 떨어져 있으면서도, 클래스 중심을 기준으로 동일한 구면 구조를 유지한다는 장점이 있다.

학습 단계에서는 Dual‑Granularity Semantic(DGS) 손실을 도입한다. DGS는 두 부분으로 구성되는데, 첫 번째는 vMF의 기대값을 이용한 ID 정렬 항 Ψ_id 로, 각 샘플이 자신의 클래스 평균 방향에 가까워지도록 유도한다. 두 번째는 합성된 가상 이상치와의 대비를 통한 OOD 경계 항 Ω_ood 로, 가상 이상치를 “가상 부정 클래스”로 취급해 contrastive loss 형태로 적용한다. 특히 π_y가 작은 tail 클래스에 대해 Ω_ood 가 가중치로 크게 작용하도록 설계해, 경계가 과도하게 확장되는 현상을 억제한다.

추가적으로 Temperature Scaling‑Based Logit Adjustment(TLA)와 Energy Polarization Regularization(EPR)도 결합한다. TLA는 클래스 사전 π_y와 온도 ε를 이용해 로그잇을 스케일링함으로써, 긴꼬리 데이터에서 발생하는 예측 편향을 보정하고 소수 클래스의 신뢰도를 높인다. EPR은 ID 샘플과 가상 이상치 사이의 에너지 차이를 명시적으로 확대해, 에너지 기반 스코어링(예: Energy, ODIN)에서 구분력을 강화한다. 최종 추론 단계에서는 ODIN의 입력 교란과 온도 스케일링을 적용해, 미세한 경계 차이까지도 효과적으로 드러낸다.

실험에서는 CIFAR‑100‑LT, CIFAR‑10‑LT 등 긴꼬리 변형 데이터셋에 대해 80 Million Tiny Images와 같은 외부 OOD 데이터에 의존하는 기존 SOTA(예: PASCL, PAT T, DARL)와 비교했다. VMF‑GOS는 AUROC, AUPR, FPR95 등 주요 지표에서 외부 데이터 기반 방법들을 앞섰으며, 특히 tail 클래스에 대한 OOD 오탐률을 크게 낮추었다. 또한, 가상 이상치 합성 비용이 거의 없고, 외부 데이터 수집·프라이버시 문제를 회피할 수 있다는 실용적 장점도 강조한다.

요약하면, VMF‑GOS는 고차원 구면 위의 기하학적 특성을 정량화하고, 이를 기반으로 저가능도 영역에 고품질 가상 이상치를 생성함으로써, 긴꼬리 분포에서도 외부 데이터 없이 강건한 OOD 탐지를 구현한다.