다중스케일 밀도 샘플링을 위한 지연거부 일반화 해밀턴 몬테카를로

초록

본 논문은 계층적 모델에서 나타나는 다중스케일 기하학을 효율적으로 탐색하기 위해, 단계별로 점점 작은 스텝 사이즈를 적용하는 지연거부 일반화 해밀턴 몬테카를로(DR‑G‑HMC) 알고리즘을 제안한다. 기존 일반화 HMC의 재전향 문제를 최소화하고, NUTS와 경쟁할 수 있는 샘플링 효율성을 보이며, 하이퍼파라미터에 대한 민감도가 낮은 것이 특징이다.

상세 분석

DR‑G‑HMC는 기존 일반화 HMC(G‑HMC)의 한계를 극복하기 위해 두 가지 핵심 아이디어를 결합한다. 첫째, “지연거부”(delayed rejection) 메커니즘을 도입해 첫 번째 제안이 거부될 경우 동일한 시작점에서 스텝 사이즈를 감소시킨 새로운 제안을 즉시 수행한다. 이는 미분 방정식 적분기법에서 사용되는 동적 스텝 선택과 유사하며, 고곡률 영역에서는 작은 스텝, 저곡률 영역에서는 큰 스텝을 자동으로 적용한다. 둘째, G‑HMC의 특성인 매 iteration마다 단일 leapfrog 단계만 수행한다는 점을 활용해, 거부 시 전체 트래젝터리를 재시작하는 것이 아니라 현재 단계만 재시도함으로써 연산 비용을 크게 절감한다.

알고리즘은 최대 K번까지의 제안을 허용하고, 각 제안 k에 대해 스텝 사이즈 ϵ_k = ϵ / r^{k‑1} (r>1) 로 기하급수적으로 감소한다. 제안 수락 확률 α_k는 기존 Metropolis‑Hastings 비율에 앞선 k‑1개의 제안이 거부된 확률을 보정하는 곱셈 항을 포함한다. 이 보정은 “ghost state”라 불리는 가상의 경로 확률을 계산함으로써 상세히 균형을 맞춘다. 비록 ghost state 계산이 O(2^k) 복잡도를 갖지만, 실제로는 고곡률 영역에서만 다수의 제안이 발생하고, K가 작게 설정되면 전체 비용은 여전히 NUTS 수준 이하로 유지된다.

다중스케일 밀도, 특히 Neal’s funnel와 같은 “목‑입” 구조에서 실험 결과 DR‑G‑HMC는 큰 스텝을 사용해 넓은 영역을 빠르게 탐색하고, 목 부분에서는 자동으로 스텝을 축소해 높은 수용률을 달성한다. 이는 기존 DR‑HMC가 전체 트래젝터리 길이에 작은 스텝을 적용해 비효율적이던 점을 크게 개선한다. 또한, DR‑G‑HMC는 momentum을 매 iteration마다 부분적으로 재샘플링(γ 파라미터)하고, 최종적으로 부호를 반전시켜 상세 균형을 유지한다.

핵심 기여는 다음과 같다. (1) 지연거부와 일반화 HMC를 결합해 상세 균형을 보장한 새로운 샘플러 제안, (2) 다중스케일 계층 모델에서 DR‑HMC와 NUTS를 능가하는 성능 입증, (3) 제안 단계 수 K와 감소 비율 r 같은 하이퍼파라미터에 대한 강인성 검증, (4) G‑HMC의 방향성 손실 문제를 해결해 기존 HMC와 동등하거나 우수한 효율성 확보.

이러한 설계는 동적 스텝 선택이 필요한 복잡한 베이지안 모델(예: 깊은 신경망, 스파스 회귀, 비선형 혼합 효과 모델 등)에서 자동 튜닝 없이도 안정적인 샘플링을 가능하게 하며, 향후 확장성 있는 MCMC 프레임워크에 통합될 잠재력을 보여준다.