Hamiltonian Monte Carlo 효율적인 연속 상태 공간 탐색

초록

Hamiltonian 동역학을 이용해 메트로폴리스 알고리즘의 제안 분포를 멀리 이동시키면, 단순 랜덤 워크에 비해 탐색 효율이 크게 향상된다. 가상의 모멘텀 변수를 도입하고, 체적 보존과 에너지 보존 특성을 이용해 이산화된 궤적이라도 정확히 수용할 수 있다. 논문에서는 기본 이론, 구현 팁, 윈도우 기반 수용 규칙, 근사 궤적 계산, 템퍼링, 그리고 불필요한 궤적을 조기에 종료하는 단축 기법 등을 포괄적으로 검토한다.

상세 분석

Hamiltonian Monte Carlo(HMC)는 전통적인 메트로폴리스–헤이스팅스 알고리즘이 갖는 확산적 탐색 한계를 극복하기 위해 물리학의 Hamiltonian 동역학을 차용한다. 연속적인 파라미터 공간 θ에 가상의 운동량 변수 p를 추가하고, 목표 밀도 π(θ)∝exp(−U(θ))를 위치 에너지 U(θ)로, p의 정규분포를 운동 에너지 K(p)=½pᵀM⁻¹p로 정의한다. 전체 Hamiltonian H(θ,p)=U(θ)+K(p) 하에서 연속적인 미분 방정식
dθ/dt = ∂H/∂p = M⁻¹p,
dp/dt = −∂H/∂θ = −∇U(θ)
을 시뮬레이션하면, 에너지 보존과 리버시빌리티, 그리고 Liouville의 체적 보존 정리를 만족한다. 이 특성 덕분에 제안된 (θ*,p*)는 Jacobian을 따로 계산할 필요 없이 Metropolis 수용 확률 α = min{1, exp