이산 상태 가속 마코프 체인 몬테카를로 알고리즘

초록

**
본 논문은 메트로폴리스-헤이스팅스(MH) 알고리즘을 이산 확률 단순체 위의 Wasserstein‑2 흐름으로 해석하고, 이를 기반으로 Nesterov 가속을 도입한 새로운 가속 MCMC(aMCMC) 프레임워크를 제안한다. 가속 흐름은 이산 해밀턴-야코비 방정식과 연동된 연속성 방정식으로 구성되며, 상대 Fisher 정보의 가속 그래디언트 흐름을 이용해 목표 분포의 정규화 상수 없이도 스코어 함수를 추정한다. 입자 상호작용 시스템을 통해 실제 구현이 가능하며, 격자 기반 가우시안 혼합 및 하이퍼큐브 분포에 대한 실험에서 기존 MH 대비 수렴 속도와 정확도가 크게 향상됨을 보인다.

**

상세 분석

**
이 논문은 이산 상태 공간 (V={1,\dots,n}) 위에서 확률 분포 (\pi) 를 샘플링하기 위해, 기존 메트로폴리스‑헤이스팅스(MH) 전이율 행렬 (Q_{\text{MH}}) 가 실제로 KL 발산의 Wasserstein‑2 기하학적 그래디언트 흐름임을 명시적으로 증명한다. 이를 위해 저자들은 확률 단순체 (\mathcal P(V)) 에 이산 Wasserstein‑2 메트릭 (K(p)) (모빌리티 함수 (\theta_{ij}(p)) 에 의해 정의) 을 도입하고, KL 발산 (D_{\mathrm{KL}}(p|\pi)) 의 Riemannian 그래디언트를 (-\nabla_{K} D_{\mathrm{KL}}) 로 표현한다. 이 구조는 연속 공간의 라그랑주 흐름과 직접적인 유사성을 가지며, 따라서 Nesterov 가속 원리를 적용할 수 있는 수학적 토대를 제공한다.

가속화는 두 개의 연동된 미분 방정식으로 구성된다. 첫 번째는 이산 연속성 방정식
\