동기화 단계로 강화하는 다중 수준 마코프 체인 몬테카를로

초록

본 논문은 다중 수준 마코프 체인 몬테카를로(ML‑MCMC)에서 서로 다른 모델 충실도 간의 샘플 상관을 높이기 위해 SYNCE라는 새로운 동기화 단계 결합 기법을 제안한다. 공통 난수(CRN) 방식을 이용해 두 체인의 전진·후진 단계를 동일하게 진행함으로써 포스터리어가 거의 겹치지 않아도 높은 상관을 유지한다. 이론적으로 고유 불변 측도가 존재하고 기하급수적 수렴성을 보이며, 기존 지연 수용(delayed‑acceptance)이나 최대 결합(maximal coupling) 방식보다 빠른 수렴과 두 배 수준의 분산 감소를 입증한다. 수치 실험을 통해 차원·충실도 변화에 강인한 효율성을 확인한다.

상세 분석

SYNCE는 다중 수준 MCMC에서 저‑충실도와 고‑충실도 체인을 결합할 때 “상태”가 아니라 “스텝(step)” 자체를 동기화한다는 근본적인 아이디어에 기반한다. 기존 방법들은 두 체인에 동일한 제안점을 제시하고, 포스터리어 간 겹침(overlap)이 충분히 클 때만 높은 수용률과 상관을 기대한다. 그러나 역문제에서는 저‑충실도 모델이 고‑충실도 모델과 크게 다를 수 있어 제안점이 고‑충실도 포스터리어에서 거의 0 확률 영역에 위치하는 경우가 빈번하다. 이때는 제안이 반복적으로 거부되어 두 체인이 탈동기화되고, 결과적으로 분산 감소 효과가 사라진다.

SYNCE는 이를 피하기 위해 두 체인의 난수 시드와 제안 분포를 완전히 동일하게 설정하고, 각 체인의 메트로폴리스 수용 단계에서도 동일한 난수를 사용한다. 구체적으로, 동일한 공통 난수 u∈U(0,1)를 이용해 두 체인의 수용 확률 αₗ(θ,θ*)와 αₕ(θ,θ*)를 동시에 계산하고, u가 두 확률 중 최소값보다 작으면 두 체인 모두 동일한 제안점을 수용한다. u가 하나만 만족하면 그 체인만 이동하고, 다른 체인은 현재 상태에 머문다. 이 “동기화된 스텝”은 제안점 자체가 포스터리어 겹침에 의존하지 않으며, 두 체인의 경로가 동일한 난수 흐름에 의해 강하게 연결된다.

이론적 분석에서는 (X,𝔽,πₗ)와 (Y,𝔾,πₕ)라는 두 마코프 커널 Kₗ, Kₕ를 결합한 공동 커널 K̂를 정의하고, K̂가 각각의 마진을 보존함을 보인다. 이후 Theorem 4.1에서 K̂가 유일한 불변 측도 μ̂를 갖고, 전체 상태공간에서 V‑geometric ergodicity를 만족함을 증명한다. 특히, 수렴 속도는 기존 지연 수용 방법의 상수 C·ρ^{n} (ρ<1)보다 더 큰 수렴 계수 ρ̂를 갖으며, 이는 포스터리어 겹침이 거의 없을 때도 유지된다.

또한, 논문은 적응형 버전 SYNCE‑AR을 제안한다. 여기서는 초기 단계에서 관측된 수용률과 상관을 기반으로 동기화 강도를 조절하고, 필요에 따라 제안 분포의 스케일을 재조정한다. 이 적응 메커니즘은 이론적 수렴 보장을 해치지 않으면서 실험적 효율성을 크게 향상시킨다.

수치 실험에서는 (1) 2‑D 파라미터 추정 PDE, (2) 고차원(≥50) 베이지안 회귀, (3) 다중 물리 모델(유체‑구조 연동) 등 세 가지 베이지안 역문제에 대해 저‑충실도(코스 그리드, 저차 근사)와 고‑충실도(미세 그리드, 고차 근사)를 조합하였다. 모든 경우에서 SYNCE는 기존 지연 수용, 최대 결합, 독립 제안 방식에 비해 평균 2‑3배의 분산 감소와 1.8‑2.5배의 CPU 시간 절감을 기록했다. 특히, 포스터리어 겹침이 0.1 이하로 떨어지는 극단 상황에서도 상관 계수 ρ̂≈0.85를 유지하며, 이는 ML‑MC의 telescoping sum에서 V