베이즈 전파와 마코프 체인 결합을 통한 루프 계산 기반 MCMC

본 논문은 그래프 모델에서 베이즈 전파(BP)와 마코프 체인 몬테카를로(MCMC)라는 두 주요 추론 방법을 결합하여, 각각의 약점을 보완하고 전체적인 추론 정확도와 효율성을 향상시키는 새로운 프레임워크를 제시한다. 먼저, 그래프 모델의 파티션 함수를 근사하는 데 있어 BP는 빠른 수렴과 실용성을 제공하지만, 루프가 존재하는 일반 그래프에서는 정확성을 보장하지 못한다. 반면 MCMC는 이론적으로 정확하지만, 복잡한 에너지 지형 때문에 혼합 시간이 지수적으로 증가할 위험이 있다. 이러한 상보적 관계를 활용해 저자들은 BP의 근사오차를 루프 계산(Loop Calculus)이라는 수학적 전개를 통해 명시적으로 표현한다. 루프 계산은 BP 근사와 실제 파티션 함수 사이의 비율을 일반화된 루프들의 가중치 합으로 나타내며, 이 가중치는 양수와 음수가 섞여 있다. 논문은 두 단계로 나뉜 접근법을 제안한다. 첫 번째 단계는 2‑정규 루프(모든 정점의 차수가 정확히 2인 서브그래프)만을 고려한다. 평면 그래프에서는 2‑정규 루프 시리즈가 다항시간에 정확히 계산될 수 있지만, 일반 비평면 그래프에서는 직접 계산이 불가능하다. 이를 해결하기 위해 저자들은 Worm 알고리즘을 변형하여 2‑정규 루프를 샘플링한다. 이 알고리즘은 현재 서브그래프에 임의의 간선을 추가하거나 삭제하면서, 전이 확률을 각 루프의 절대 가중치 비율에 따라 조정한다. 2‑정규 루프가 아닌 상태는 거부(rejection) 절차를 통해 버리고, 전체 마코프 체인이 다항시간 내에 충분히 섞임을 정리 1을 통해 증명한다. 이후 시뮬레이티드 어닐링을 적용해 β 파라미터를 단계적으로 증가시키며, |w(F)|^β 형태의 분포에서 기대값을 추정한다. 이를 통해 절대값 합 Z†₂‑Loop을 근사하고, 음수 루프 비율을 별도로 샘플링해 최종 Z₂‑Loop을 얻는다(정리 2). 이 과정은 w_min(간선 가중치 최소값)과 음수 루프 비율 ζ가 다항적으로 작을 경우 전체 복잡도가 다항시간임을 보인다. 두 번째 단계는 전체 루프 시리즈 Z_Loop을 추정하는 방법이다. 여기서는 루프 구조가 복잡해지므로, 사이클 베이스(cycle basis)를 활용한다. 사이클 베이스는 그래프의 모든 사이클을 선형 결합으로 표현할 수 있는 최소 집합이며, 이를 이용해 현재 루프에 사이클을 추가하거나 제거하는 전이 연산을 정의한다. 이 전이는 거부 없이 수행되며, 마코프 체인은 사이클 베이스 원소를 무작위로 선택해 XOR 연산을 적용함으로써 새로운 일반화된 루프를 생성한다. 이렇게 구성된 체인은 이론적 혼합 시간 보장은 없지만, 실험적으로 빠른 수렴을 보인다. 이후 동일한 시뮬레이티드 어닐링 스킴을 적용해 전체 루프 시리즈를 추정한다. 실험에서는 다양한 비평면 이진 마코프 랜덤 필드에 대해 제안된 두 알고리즘(베이즈 전파 + 2‑정규 루프 MCMC, 베이즈 전파 + 전체 루프 MCMC)을 기존 직접 MCMC(예: Gibbs, Metropolis)와 순수 BP와 비교하였다. 결과는 파티션 함수 추정 오차가 현저히 낮으며, 실행 시간도 경쟁력 있음을 보여준다. 특히 매력적 모델(attractive models)에서는 음수 루프 비율이 0에 가까워져 알고리즘이 더욱 효율적이다. 또한, 제안된 방법은 BP가 제공하는 비정형 근사값을 시작점으로 삼아, 루프 계산을 통해 정확성을 보정함으로써, 기존 방법들보다 더 견고하고 확장 가능한 추론 프레임워크를 제공한다. 논문은 또한 비이진 일반 그래프에도 자연스럽게 확장 가능함을 언급하며, 사이클 베이스 기반 설계가 다양한 그래프 구조에 적용될 수 있음을 시사한다. 최종적으로, 이 연구는 루프 계산을 활용한 오류 보정 메커니즘을 제시함으로써, BP와 MCMC 사이의 장단점을 효과적으로 통합한 새로운 추론 패러다임을 제시한다.