베이지안 프레임워크에서 해석 가능성을 위한 의사결정 이론적 접근

본 연구는 “베이지안 프레임워크에서 모델 해석 가능성을 위한 의사결정 이론적 접근”이라는 제목 아래, 기존의 해석 가능성 prior 방식이 갖는 한계를 지적하고 새로운 두 단계 절차를 제안한다. 첫 번째 단계에서는 데이터 생성 메커니즘을 가장 잘 설명할 수 있는 고성능 베이지안 예측 모델, 즉 레퍼런스 모델을 학습한다. 여기서는 BART(베이지안 가법 회귀 트리), 베이지안 신경망, 가우시안 프로세스 등 복잡하고 비선형적인 모델을 자유롭게 사용한다. 두 번째 단계에서는 레퍼런스 모델이 제공하는 사후 예측 분포를 목표로, 해석 가능하고 제한된 형태의 프록시 모델을 찾는다. 프록시 모델은 의사결정 트리, 로지스틱 회귀 등 사용자가 정의한 해석 가능성 기준에 맞추어 선택된다. 핵심은 두 목표—‘설명 충실도(fidelity)’와 ‘해석 가능성(interpretability)’—를 동시에 고려한 효용 함수이다. 효용 함수는 U(θ) = – λ·Dist(프록시, 레퍼런스) – (1–λ)·Complexity(프록시) 형태로 정의되며, Dist는 두 모델의 예측 분포 차이를 측정하는 지표(KL divergence, RMSE 등)이고, Complexity는 트리 깊이, 규칙 수, 파라미터 수 등 해석 가능성을 정량화한 값이다. λ는 사용자가 선호하는 트레이드오프 비율을 조절한다. 이 효용 함수를 최적화함으로써, 프록시 모델은 레퍼런스 모델을 가능한 한 정확히 모방하면서도 사용자가 정의한 복잡도 제한을 만족한다. 논문은 또한 베이지안 불확실성을 프록시 모델에 전달하는 방법을 제시한다. 레퍼런스 모델의 사후 샘플을 다수 추출하고, 각 샘플에 대해 프록시 모델을 학습함으로써 에피스테믹(모델 파라미터)과 알레아틱(관측 잡음) 불확실성을 모두 반영한다. 이렇게 얻어진 프록시 모델은 단순히 평균 예측값을 제공하는 것이 아니라, 예측 구간과 불확실성 정보를 동시에 제공한다. 실험에서는 실제 데이터셋(예: UCI, 의료 데이터 등)에서 의사결정 트리를 프록시 모델로, BART를 레퍼런스 모델로 사용하였다. 동일한 해석 가능성 수준(예: 트리 깊이 3)에서 제안 방법은 기존의 해석 가능성 prior 방식보다 평균 5~10% 높은 정확도를 기록했으며, 특히 레퍼런스 모델의 예측력이 뛰어날수록(예: BART 대비 GP) 프록시 모델의 성능 향상이 크게 나타났다. 또한, 프록시 모델의 구조적 안정성을 평가하기 위해 여러 초기화·샘플링·알고리즘 조합을 적용했을 때, 제안 방법은 Jaccard index 기반 안정성 점수에서 기존 방법보다 0.15~0.25 높은 값을 보였다. 로컬 해석 사례로는 베이지안 딥 CNN을 사용한 MNIST 이미지 분류에서 특정 이미지에 대한 예측과 함께 불확실성 구간을 제공하였다. 이는 의료·재무 등 불확실성 자체가 중요한 도메인에서 해석 가능성의 새로운 차원을 열어준다. 결론적으로, 이 논문은 베이지안 모델링에서 해석 가능성을 사전 설계가 아닌, 사용자의 의사결정 문제로 재정의하고, 효용 함수 최적화를 통해 정확도와 해석 가능성 사이의 최적 균형을 찾는 프레임워크를 제시한다. 모델‑agnostic 특성, 불확실성 전달, 안정성 평가 등 다방면에서 실용적이며 이론적으로도 견고한 접근법으로, 향후 베이지안 해석 가능성 연구와 실제 적용에 큰 영향을 미칠 것으로 기대된다.