상세균형 원리를 이용한 마코프 체인 MCMC 수렴 진단 및 시뮬레이티드 어닐링 적용

초록

본 논문은 마코프 체인 몬테카를로(MCMC) 알고리즘의 수렴을 판단하기 위해 상세균형(principle of detailed balance) 기반의 새로운 진단 지표를 제안한다. 이 지표는 체인이 정상 상태에 있을 때 1차원 통계량의 극한 분포를 이용해 정성적 수렴 여부를 평가한다. 제안 방법은 약한 가정 하에 이론적 근거를 제공하며, 구현이 간단하고 직관적이다. 저자는 이를 20성분 혼합 모델의 최대우도 추정에 대한 시뮬레이티드 어닐링의 중단 규칙으로 적용하고, 10차원 퍼널 분포에 대한 슬라이스 샘플링 및 Metropolis‑Hastings 알고리즘의 수렴 평가에도 활용한다. 또한, 두 알고리즘의 효율성을 비교하는 새로운 효율성 지표를 정의한다.

상세 분석

논문은 먼저 마코프 체인의 상세균형 조건을 명시적으로 활용한다. 상세균형은 전이 확률 (P(x\to y))와 목표 분포 (\pi) 사이에 (\pi(x)P(x\to y)=\pi(y)P(y\to x))가 성립한다는 관계이며, 이는 체인이 (\pi)에 대해 가역적임을 보장한다. 저자는 이 관계를 이용해 정상 상태에서의 관측값들의 차이를 측정하는 1차원 통계량 (T_n)를 정의한다. 구체적으로, 연속된 샘플 ({X_i}{i=1}^n)에 대해 (\Delta_i = f(X{i+1})-f(X_i)) (여기서 (f)는 임의의 실함수) 를 합산하고, 그 평균과 분산을 정규화한 형태를 사용한다. 상세균형이 유지될 경우 (\Delta_i)는 평균 0, 분산 (\sigma^2)인 독립 동등분포를 따르므로 중심극한정리에 의해 (T_n)는 표준 정규분포에 수렴한다. 따라서 실제 시뮬레이션에서 (T_n)가 정규성을 크게 위배한다면 체인이 아직 정상 상태에 도달하지 못했음을 의미한다.

이론적 증명은 두 가지 주요 가정에 기반한다. 첫째, 전이 커널이 정칙(irreducible)이고 aperiodic이며, 두번째는 (f)가 (\pi)에 대해 2차 적분가능(즉, (\int f^2 d\pi <\infty))하다는 것이다. 이러한 가정은 대부분의 실용적인 MCMC 알고리즘—Metropolis‑Hastings, Gibbs, slice sampling 등—에 자연스럽게 적용된다. 또한, 저자는 마코프 체인의 자동 상관 구조를 고려해 유효 샘플 크기 (n_{\text{eff}}) 를 추정하고, 이를 (T_n)의 분산 보정에 반영한다. 이는 체인 간 비교 시 공정성을 확보한다는 점에서 중요한 기여이다.

수렴 판단 기준으로는 두 가지 접근을 제시한다. (1) p‑값 기반 검정: (T_n)가 표준 정규분포를 따르는 가설을 검정하고, p‑값이 사전에 정한 임계값(예: 0.05)보다 크면 수렴으로 판단한다. (2) 구간 기반 판단: (T_n)의 95% 신뢰구간이 (