유연한 증거 기반 딥러닝으로 불확실성 추정 혁신

초록

본 논문은 기존 증거 기반 딥러닝(EDL)의 한계를 극복하기 위해 유연한 디리클레(FD) 분포를 이용한 새로운 불확실성 추정 프레임워크(F‑EDL)를 제안한다. FD는 디리클레를 일반화한 분포로, 클래스 확률에 대한 보다 풍부하고 다중모드의 표현을 가능하게 하며, 단일 전방 패스로 효율적인 추론을 유지한다. 이론적 분석과 광범위한 실험을 통해 F‑EDL이 기존 방법보다 높은 일반화와 신뢰성을 제공함을 입증한다.

상세 분석

F‑EDL은 기존 EDL이 가정하는 “클래스 확률이 디리클레 분포를 따른다”는 제한적인 전제를 완화한다. 이를 위해 논문은 Flexible Dirichlet(FD) 분포를 도입한다. FD는 각 차원의 Gamma 변수에 공통 Gamma 변수 U와 다항형 할당 변수 Z를 결합해 구성되며, 파라미터 (α, p, τ) 로 정의된다. α는 전통적인 농도 파라미터, p는 클래스별 증거 할당 확률, τ는 증거의 전반적인 분산을 조절한다. 이러한 구조는 클래스 간 의존성을 모델링하고, 다중모드(멀티모달) 확률 분포를 생성할 수 있게 해, 모호하거나 혼합된 라벨을 가진 입력에 대해 보다 정교한 불확실성 표현이 가능하다.

모델 아키텍처는 입력 x를 특징 z=fθ(x) 로 변환하고, 세 개의 헤드 gϕ₁, gϕ₂, gϕ₃ 를 통해 각각 α, p, τ 를 예측한다. α는 exp 활성화, p는 softmax, τ는 softplus 로 변환해 파라미터의 비음수성을 보장한다. 또한, fθ와 gϕ₁에 스펙트럴 정규화를 적용해 Lipschitz 연속성을 강화하고, α의 과도한 발산을 암묵적으로 억제한다. 이렇게 얻어진 FD 파라미터는 단일 전방 패스만으로 클래스 확률 π∼FD(α,p,τ)를 샘플링하고, 기대값과 분산을 닫힌 형태로 계산한다.

목적 함수는 두 부분으로 구성된다. 첫 번째는 FD 분포에 대한 기대 MSE 로, Eπ