근접 IMH 독립 메트로폴리스 헤스팅을 위한 근접 사후 제안

초록

본 논문은 베이지안 역문제에서 정확한 사후분포를 직접 샘플링하기 어려운 상황을 위해, 근사 사후분포에서 샘플을 추출한 뒤 근접 최적화 문제를 통해 편향을 보정하는 Proximal‑IMH 알고리즘을 제안한다. 이 방법은 독립 Metropolis‑Hastings (IMH) 프레임워크에 속하며, 근사 모델의 저비용 샘플링 장점을 유지하면서 acceptance rate와 혼합 속도를 크게 향상시킨다. 선형·비선형 연산자 모두에 적용 가능하고, 다중모드 및 데이터 기반 사전분포 실험에서 기존 IMH 변형들을 능가함을 보인다.

상세 분석

Proximal‑IMH는 두 단계로 구성된다. 첫 번째 단계에서는 계산이 저렴한 근사 사후분포 (q_{\text{approx}}(\theta|y)) 로부터 후보 (\theta^{*}) 를 샘플링한다. 이 근사분포는 일반적으로 선형화, 변분 근사, 혹은 저차원 사전학습 모델 등에 의해 얻어지며, 정확한 사후와는 차이가 클 수 있다. 두 번째 단계에서는 후보를 실제 사후분포 (p(\theta|y)) 로 보정하기 위해, 후보와 근사 평균 (\theta_{0}) 사이의 거리와 데이터 적합도를 동시에 최소화하는 근접 최적화 문제
\