마코프 체인 수렴 시간 추정의 복잡도 탐구

초록

본 논문은 마코프 체인 몬테카를로(MCMC) 알고리즘에서 수렴 시간을 판단하는 문제의 계산 복잡성을 분석한다. 빠르게 섞이는 체인에 대해, 특정 시점 t와 상수 c배 늦은 시점 ct에서의 거리 차이를 구분하는 것이 SZK‑hard, coNP‑hard, 그리고 PSPACE‑complete임을 증명한다. 또한 해당 문제들이 AM∩coAM, coAM에 포함됨을 보이며, 실용적인 수렴 진단 방법의 이론적 한계를 제시한다.

상세 요약

이 논문은 “수렴 시간 추정”이라는 실무적 문제를 복잡도 이론의 관점에서 정형화한다. 먼저 마코프 체인의 혼합 시간(mixing time)을 정의하고, 주어진 시작 상태에서 시간 t에 도달했을 때의 분포와 정규화된 정류분포 사이의 총변동거리(total variation distance)를 측정한다. 저자들은 두 가지 구분 문제를 설정한다. (1) 체인이 시간 t에서 ε-근접인지, 아니면 ct에서 2ε-멀리 떨어져 있는지를 판별하는 문제; (2) 동일한 구분이지만 ε와 2ε 대신 상수 c≥1에 대해 “거의 섞였다”와 “섞이지 않았다”를 구분한다.

첫 번째 결과는 이 문제의 난이도가 Statistical Zero Knowledge(SZK) 클래스에 하드함을 보인다. 구체적으로, SZK‑hard인 “Statistical Difference” 문제를 마코프 체인의 수렴 구분 문제로 다항식 시간 내에 감소시킴으로써, 어떤 효율적인 알고리즘도 존재한다면 SZK=NP가 되는 모순을 초래한다는 논증을 제시한다. 이와 동시에, 문제는 AM∩coAM에 속함을 보이는데, 이는 Arthur‑Merlin 프로토콜을 이용해 증명자가 체인의 전이 행렬을 제공하고, 검증자가 샘플을 통해 총변동거리를 근사적으로 추정함으로써 양쪽 방향 모두를 검증할 수 있음을 의미한다.

두 번째 결과에서는 동일한 구분 문제를 coNP‑hard로 만든다. 여기서는 SAT의 부정형을 마코프 체인의 수렴 여부와 연결시키는 감소를 사용한다. 즉, 주어진 부정형이 만족불가능하면 체인은 빠르게 섞이고, 만족가능하면 특정 시점 ct에서 여전히 초기 상태에 강하게 의존한다는 구조를 만든다. 이때 증명자는 “체인이 섞이지 않는다”는 경우에 대한 증거를 제공할 수 없으므로, 문제는 coNP‑hard가 된다. 또한, 이 문제는 coAM에 포함됨을 보이며, AM 프로토콜의 반대 방향을 통해 부정적인 사례를 검증할 수 있음을 보여준다.

세 번째 결과는 가장 강력한 복잡도 등급인 PSPACE‑complete를 얻는다. 여기서는 일반적인 PSPACE‑complete 문제인 Quantified Boolean Formula(QBF)를 마코프 체인의 수렴 구분 문제로 변환한다. QBF의 변수와 절을 각각 상태와 전이 확률에 매핑하고, 양자화 수준에 따라 체인이 특정 단계에서 섞이는지 여부가 QBF의 진리값과 일치하도록 설계한다. 따라서, 체인이 ct 시점에 섞였는지 여부를 판단하는 것이 PSPACE 전체를 대표한다는 결론에 도달한다. 이와 동시에, 문제는 PSPACE에 포함됨을 보이기 위해, 전이 행렬을 순차적으로 시뮬레이션하면서 공간을 다항식으로 유지하는 알고리즘을 제시한다.

전체적으로, 저자들은 복잡도 이론의 표준 도구(다항식 시간 감소, Arthur‑Merlin 프로토콜, 공간 제한 시뮬레이션)를 활용해 MCMC 수렴 진단이 이론적으로 매우 어려운 문제임을 체계적으로 증명한다. 이는 실무에서 흔히 사용되는 Gelman‑Rubin, ESS, autocorrelation 기반 방법들이 근본적인 계산적 한계에 직면할 수 있음을 시사한다.