딥러닝 불확실성 정량화 방법론 조사: 데이터와 모델 관점에서의 체계적 분류

초록

본 논문은 딥러닝 예측의 신뢰도를 평가하는 불확실성 정량화(UQ) 방법을 체계적으로 조사한다. 기존 연구와 달리 불확실성의 근원(데이터 불확실성 vs. 모델 불확실성)에 초점을 맞춰 방법론을 분류하고, 각 범주의 장단점을 비교한다. 또한 UQ가 활성 학습, 분포 외 탐지, 강화학습 등 주요 머신러닝 문제에 어떻게 적용되는지 설명하며, 대규모 언어 모델과 과학 시뮬레이션을 위한 UQ 등 미래 연구 방향을 제시한다.

상세 분석

본 논문의 핵심 기여는 불확실성 정량화(UQ) 방법론을 ‘불확실성의 근원’이라는 새로운 관점에서 체계적으로 분류한 것이다. 기존 조사들이 신경망 구조(예: 베이지안 뉴럴 네트워크, 앙상블)나 방법론적 접근(빈도주의 vs 베이지안)에 따른 분류에 머물렀다면, 이 논문은 예측 불확실성이 발생하는 근본적인 원인을 데이터 불확실성(앨리어토릭)과 모델 불확실성(에피스테믹)으로 구분한다.

데이터 불확실성은 데이터 자체에 내재된 노이즈나 클래스 중복과 같은 환원 불가능한 불확실성이다. 반면 모델 불확실성은 학습 데이터 부족, 최적이 아닌 모델 구조/파라미터, 분포 외(OOD) 샘플 등 지식 부족에서 기인하는 환원 가능한 불확실성이다. 이 같은 구분은 실무자가 자신의 문제 도메인에서 지배적인 불확실성 유형을识别하고, 이를 해결하기에 적합한 UQ 방법(예: 데이터 불확실성에는 헤테로스케다스틱 노이즈 모델링, 모델 불확실성에는 앙상블 또는 MCDropout)을 선택하는 데 실용적인 지침을 제공한다.

또한 논문은 UQ가 단순한 예측 신뢰도 점수를 넘어 활성 학습(불확실성이 높은 샘플에 주목), OOD 탐지, 안전-중요 강화학습 정책 학습 등 다양한 머신러닝 패러다임의 핵심 요소로 작용함을 강조한다. 특히 대규모 언어 모델(LLM)의 할루시네이션 문제, AI 기반 과학 시뮬레이션의 신뢰성 확보, 구조화된 출력(시공간, 그래프)을 다루는 모델에 대한 UQ를 미래 핵심 연구 방향으로 지목하며, 이 분야의 확장 가능성을 조명한다.