가변 길이 궤적을 이용한 압축 가능 하이브리드 몬테카를로

Hybrid Monte Carlo(HMC)은 목표 확률밀도 ρ(q)∝exp(−U(q)) 를 샘플링하기 위해 위치 q와 모멘텀 p를 결합한 확장 상태공간 (q,p) 에서 해밀턴 역학을 시뮬레이션하고, 그 결과를 메트로폴리스‑해스팅스 단계에서 수용하거나 거부한다. 전통적인 HMC는 적분기가 가역적이며 부피 보존(volume‑preserving)이어야 메트로폴리스 수용률이 단순히 exp(−ΔH) 형태가 된다. 압축 가능 HMC(Compressible HMC, CHMC)은 이 부피 보존 조건을 완화하고, 가역적인 변환 F와 그 반복 Fⁿ을 이용해 제안을 만든 뒤, 제안의 Jacobian |DFⁿ| 을 메트로폴리스 비율에 포함시켜 상세 균형을 유지한다. CHMC은 또한 n을 사전 정의된 확률분포 p(n) 에 따라 무작위로 선택하도록 허용하지만, n은 현재 궤적의 상태와 독립적으로 샘플링되어야 한다는 제약이 있다. 이 제약은 가변 스텝 크기 적분기와 결합할 때 큰 문제를 일으킨다. 가변 스텝 적분기는 현재 상태 (q,p) 에 따라 스텝 크기 Δtₙ=g(qₙ,pₙ)Δs 를 조정함으로써 효율성을 높이지만, 이때 실제 시간 t 와 적분 파라미터 s 가 ds=g(q,p)⁻¹dt 라는 비선형 변환을 통해 연결된다. 결과적으로, 적분이 근사하는 동역학은 원래 해밀턴 시스템이 아니라 시간 재스케일링된 시스템이며, 이 시스템은 목표 밀도 ρ(q,p) 를 보존하지 않는다. 따라서 CHMC의 메트로폴리스 비율은 min{1, g(q(s₀),p(s₀))/g(q₀,p₀)} 와 같이 제한되며, 스텝 크기가 크게 변동하면 수용률이 급격히 감소한다. 논문은 이 문제를 해결하기 위해 “가변 길이 궤적 CHMC(VLT‑CHMC)”이라는 새로운 알고리즘을 제안한다. 핵심 아이디어는 목표 물리적 시간 t 에 도달하기 위해 필요한 적분 단계 수 N(q₀,p₀) 을 동적으로 결정하고, 그에 따라 변환 F^{N}Δs 을 적용하는 것이다. 그러나 F^{N}Δs 는 일반적으로 가역적이지 않으므로, 직접 메트로폴리스 제안으로 사용할 수 없다. 대신, 저자들은 역전 연산자 R 과 결합한 변환 R∘F^{N}Δs 가 특정 집합 S와 S* 사이에서 “집합‑레벨 역전성”을 만족하도록 집합을 정의한다. 구체적으로, S 는 (q₀,p₀) 를 포함하고, 앞·뒤로 ` 및 r 스텝을 탐색해 F^{N}Δs 의 전·후 이미지가 겹치는 구간을 찾는다. 마찬가지로 S* 는 역전된 상태 R∘F^{N}Δs(q₀,p₀) 에 대해 동일한 과정을 수행한다. 이때 R∘F^{N}Δs(S)⊂S* 와 R∘F^{N}Δs(S*)⊂S 가 성립하면, 메트로폴리스 단계에서 S↔S* 사이의 이동을 제한적으로 허용하고, 나머지 이동은 거부함으로써 상세 균형을 보존한다. 알고리즘 2는 다음 절차를 따른다. (1) 현재 위치 q^{(m)} 에서 조건부 모멘텀 p₀∼N(0,M(q^{(m)})) 을 샘플링한다. (2) 가변 스텝 적분기 F^{Δs} 를 사용해 전·후방으로 궤적을 전개하고, ` · r · `*· r* 를 계산해 S, S* 를 구성한다. (3) R∘F^{N}Δs 을 적용해 제안 상태 z* 를 얻고, 메트로폴리스 비율 α=min{1, ρ(z*)|DF^{N}Δs(z)|/ρ(z)} 을 계산한다. (4) α 에 따라 제안을 수용하거나 거부한다. 이 과정에서 N 은 목표 시간 t 에 도달하도록 정의되며, 실제 연산량은 궤적의 복잡도에 따라 자동 조절된다. 두 번째 확장에서는 “불안정한 수치 근사” 문제를 다룬다. 큰 스텝 크기나 강한 비선형성으로 인해 에너지 발산이 발생하면, 전통적인 HMC는 전체 궤적을 무조건 거부한다. VLT‑CHMC은 궤적 길이를 동적으로 조절해, 에너지 발산이 감지되면 즉시 궤적을 종료하고, 해당 구간을 거부함으로써 불필요한 연산을 최소화한다. 실험에서는 이 전략이 기존 CHMC와 NUTS에 비해 유효표본당 연산시간(ESS/시간)을 크게 향상시켰으며, 특히 고차원 베이지안 로지스틱 회귀와 다변량 정규분포 샘플링에서 눈에 띄는 성능 개선을 보였다. 전체 논문의 구조는 다음과 같다. 섹션 II에서는 CHMC의 기본 이론과 비부피 보존 적분기의 예시(RM-HMC에서의 반명시적/명시적 적분기)를 소개한다. 섹션 III‑A에서는 가변 스텝 적분기의 한계와 이를 극복하기 위한 VLT‑CHMC의 특수 경우를 상세히 설명한다. 섹션 III‑B에서는 일반적인 가변 길이 궤적 프레임워크를 수학적으로 정립하고, 집합‑레벨 역전성 조건을 증명한다. 섹션 III‑C에서는 불안정한 근사에 대한 추가 확장을 제시한다. 섹션 IV에서는 실험 설정, 비교 대상(NUTS, 표준 CHMC, RMHMC 등) 및 성능 지표(수용률, ESS, 연산시간)를 제시하고, 제안 알고리즘이 다양한 모델에서 어떻게 우수한 효율성을 보이는지 입증한다. 마지막으로 결론에서는 VLT‑CHMC이 가변 스텝 적분기와 불안정한 수치 근사를 포괄적으로 다루는 일반적인 샘플링 프레임워크로서, 향후 복잡한 베이지안 모델, 물리 시뮬레이션, 딥러닝 기반 확률 모델 등에 적용 가능함을 강조한다.