MCMC 성능을 한눈에 보는 그래프

초록

본 논문은 마코프 연쇄 몬테카를로(MCMC) 알고리즘의 효율성을 정량적 수치 대신 시각적으로 비교하는 방법을 제안한다. 자동상관시간을 이용해 독립 관측당 로그밀도 함수 평가 횟수라는 통합 지표를 정의하고, 이를 샘플링 방법별·분포별 격자형 플롯에 매핑한다. 이러한 그래프는 다양한 튜닝 파라미터에 대한 성능 변화를 한눈에 파악하게 하여, 기존 표 기반 비교보다 풍부한 정보를 제공한다.

상세 분석

논문은 먼저 MCMC 샘플의 품질을 평가하는 핵심 지표인 자동상관시간(autocorrelation time, τ)을 상세히 설명한다. τ는 체인 내 연속된 샘플 간의 의존성을 정량화하며, 유효 샘플 크기(effective sample size, ESS)를 N/τ 형태로 계산하게 해준다. 저자는 τ를 추정하기 위해 초기 랙(lag) 구간에서의 자기상관값을 누적하고, 통계적 안정성을 확보하기 위해 초기 버닝(burning) 단계와 충분한 체인 길이를 전제한다.

이후 τ를 활용해 “log density function evaluations per independent observation”이라는 새로운 성능 지표를 도입한다. 이는 한 번의 독립 관측을 얻기 위해 필요한 로그밀도 함수 호출 횟수를 의미한다. 수식적으로는
\