모델 선택을 위한 단일 MCMC 기반 사후 확률 근사법의 함정

본 논문은 Scott(2002)와 Congdon(2006)이 제안한, 각 모델별 MCMC 샘플만을 이용해 모델 사후 확률을 추정하는 방법이 근본적으로 편향됨을 증명한다. 편향의 원인은 모델별 사후분포와 전체 파라미터 공간에 대한 공동(가짜) 사후분포를 혼동한 데 있다. 저자는 이론적 논증과 여러 모의실험을 통해 Scott 방식은 심각한 오차를, Congdon 방식은 경우에 따라 큰 오차에서 거의 정확한 추정까지 폭넓은 변동을 보인다. 결국, 편…

저자: Christian Robert (CEREMADE), Jean-Michel Marin (INRIA Futurs)

모델 선택을 위한 단일 MCMC 기반 사후 확률 근사법의 함정
본 논문은 베이지안 모델 선택에서 모델 사후 확률을 추정하기 위한 두 가지 최근 제안—Scott(2002)와 Congdon(2006)—의 이론적 타당성을 검토하고, 그 근본적인 결함을 폭넓게 입증한다. 1. **배경 및 동기** 베이지안 모델 선택은 각 모델 M_k에 대한 사전 확률 π_k와 데이터 y에 대한 우도 f_k(y|θ_k)를 결합해 사후 확률 P(M=k|y) ∝ π_k ∫ f_k(y|θ_k)π_k(θ_k)dθ_k 로 계산한다. 전통적인 방법은 reversible‑jump MCMC와 같은 복합 샘플링 기법을 사용해 모든 모델의 파라미터 공간을 동시에 탐색한다. 그러나 구현 난이도와 효율성 문제로, 모델 수가 적을 때는 각 모델을 별도로 MCMC로 샘플링하고, 그 결과만으로 사후 확률을 근사하려는 시도가 등장했다. 2. **제안된 두 방법** - **Scott(2002)**: 각 모델별 독립적인 MCMC 체인 θ^{(t)}_k (t=1…T)를 실행하고, 매 반복마다 모든 모델의 우도를 평가해  \tilde{π}_k(y) ∝ π_k · (1/T)∑_{t=1}^T

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기