온도 조절 전이 알고리즘의 최적 온도 배치 연구

초록

본 논문은 멀티모달 분포 샘플링을 위한 템퍼드 트랜지션(Tempered Transitions) 방법의 온도 스케줄을 최적화하는 방안을 탐구한다. 기존에 널리 사용되는 기하학적 온도 배치가 대부분의 경우에 합리적이지만, 특정 문제에서는 비대칭적·비등비 배치가 수용률을 크게 향상시킬 수 있음을 실험과 이론을 통해 보여준다.

상세 분석

템퍼드 트랜지션은 Neal(1996)이 제안한 MCMC 기법으로, 고온(덜 얕은) 분포들을 경유함으로써 저온(목표) 분포 사이의 모드 전이를 촉진한다. 핵심은 ‘온도’라는 매개변수를 통해 목표 분포 π₀(x) 를 π_k(x) ∝ π₀(x)^{1/τ_k} 로 변형하고, τ₀=1 < τ₁ < … < τ_L 로 정의된 일련의 중간 분포들을 순차적으로 통과하는 제안 과정을 구성하는 것이다. 제안은 전방(ascending)과 후방(descending) 단계로 이루어지며, 전체 경로의 제안 확률은 각 단계의 전이 확률 곱으로 표현된다. 최종 수용률은 Metropolis–Hastings 비율 α = min{1, Π_k