의료 영상 기반 신뢰성 높은 베이지안 딥러닝

초록

본 논문은 의료 영상 의사결정 지원 시스템에서 예측 정확도와 함께 신뢰성(캘리브레이션)을 확보하기 위해 베이지안 딥러닝 기반의 확률 최적화 프레임워크를 제안한다. 핵심 아이디어는 Confidence‑Uncertainty Boundary Loss(CUB‑Loss)로, 높은 확신을 가진 오류와 낮은 확신을 가진 정답에 패널티를 부여해 예측 정확도와 불확실성 추정이 일치하도록 강제한다. 또한 Dual Temperature Scaling(DTS)이라는 두 단계 포스트‑hoc 캘리브레이션 기법을 도입해 후처리 단계에서 불확실성 분포를 정교하게 조정한다. 세 가지 의료 영상 과제(폐렴 영상, 당뇨망막증, 피부 병변)에서 실험한 결과, 제안 방법이 기존 모델 대비 캘리브레이션 오류를 크게 감소시키면서도 정확도는 유지함을 확인하였다.

상세 분석

본 연구는 베이지안 신경망(BNN)의 두 가지 주요 한계, 즉 데이터가 부족하거나 클래스 불균형이 심한 상황에서 불확실성 추정이 붕괴되는 문제와, 학습 과정에서 정확도와 불확실성 간의 정렬이 자동으로 이루어지지 않는 문제를 동시에 해결하고자 한다. 이를 위해 저자는 먼저 Confidence‑Uncertainty Boundary Curve(CUBC)를 이론적으로 정의한다. CUBC는 모델이 출력하는 예측 확신(confidence)과 불확실성(uncertainty) 사이에 선형이 아닌 기하학적 관계를 설정하며, 이상적인 경우 높은 확신은 낮은 불확실성, 낮은 확신은 높은 불확실성으로 매핑된다. 이 관계를 기반으로 설계된 CUB‑Loss는 각 샘플에 대해 실제 불확실성 값과 CUBC가 제시하는 목표값 사이의 거리(예: L2 손실)를 최소화하도록 구성된다. 따라서 고확신 오류(Incorrect‑Certain)와 저확신 정답(Accurate‑Uncertain)에 대해 큰 패널티가 부여되어, 모델이 학습 단계에서부터 ‘정확하면 확신을, 오류이면 불확실성을’ 스스로 학습하게 만든다.

학습 후에는 Dual Temperature Scaling(DTS)이라는 두 파라미터 온도 스케일링을 적용한다. 기존의 단일 온도 스케일링이 로짓 전체에 균일하게 적용되는 반면, DTS는 올바른 예측에 대해서는 온도 T₁을, 오류 예측에 대해서는 온도 T₂를 별도로 최적화한다. 이렇게 하면 올바른 샘플은 더 높은 확신으로, 오류 샘플은 더 낮은 확신으로 조정되어 불확실성 공간에서 두 집단의 분리도가 크게 향상된다. 중요한 점은 이 과정이 모델의 분류 정확도에 영향을 주지 않으며, 오히려 불확실성‑정확도 정렬을 강화한다는 것이다.

실험 설계는 세 가지 서로 다른 도메인(흉부 X‑ray 기반 폐렴 분류, 안저 사진 기반 당뇨망막증 등급, 피부 병변 다중 클래스 분류)에서 데이터 양, 클래스 비율, OOD(Out‑of‑Distribution) 상황을 다양하게 변형하여 검증하였다. 평가 지표는 Expected Calibration Error(ECE), Uncertainty Calibration Error(UCE), 그리고 제안된 Accuracy‑vs‑Uncertainty(AvU) 지표를 포함한다. 결과는 CUB‑Loss와 DTS를 결합한 모델이 기존 MC‑Dropout, 표준 VI, 그리고 최신 Soft‑AvUC 기반 모델에 비해 ECE와 UCE를 각각 평균 30%~45% 정도 감소시켰으며, AvU 점수도 유의하게 상승함을 보여준다. 특히 데이터가 5% 이하로 제한된 극소량 상황이나 1:100 이상의 클래스 불균형에서도 성능 저하가 거의 없었다.

기술적 강점으로는 (1) 손실 함수가 연속적이고 미분 가능해 기존 딥러닝 파이프라인에 손쉽게 통합 가능, (2) 온도 스케일링이 후처리 단계에서 별도 학습 없이 검증 셋을 통해 빠르게 최적화 가능, (3) 베이지안 프레임워크와 결합해 불확실성 자체를 확률적 의미로 유지한다는 점을 들 수 있다. 반면 제한점으로는 VI 기반 BNN의 학습 비용이 여전히 높으며, CUBC의 형태가 데이터셋마다 최적의 파라미터(예: 경사도) 조정이 필요할 수 있다는 점이다. 또한 DTS는 두 개의 온도 파라미터만을 사용하므로 복잡한 비선형 캘리브레이션을 완전히 설명하지 못할 가능성도 있다. 향후 연구에서는 CUBC를 데이터‑드리븐 방식으로 자동 튜닝하거나, 온도 스케일링을 다중 단계 혹은 샘플별 가중치로 확장하는 방안을 모색할 수 있다.