다양한 제안 분포를 활용한 상호작용 다중 시도 MCMC 알고리즘

초록

본 논문은 다중 시도 메트로폴리스(MTM) 알고리즘에 서로 다른 제안 분포를 허용하고, 이를 기반으로 여러 체인이 상호작용하는 IMTM(Interacting MTM) 프레임워크를 제안한다. 제안 가중치와 선택 메커니즘을 설계하여 마코프 체인의 상세한 균형성을 보장하고, 다양한 실험을 통해 기본 MTM 대비 효율성이 향상됨을 입증한다.

상세 분석

이 연구는 기존 MTM(Multiple‑Try Metropolis) 알고리즘의 두 가지 근본적인 제한을 동시에 해결한다. 첫 번째는 모든 시도 후보가 동일한 제안 분포 q(·|x)에서 생성된다는 가정이다. 실제 고차원 혹은 다중모달 목표분포에서는 하나의 q로는 탐색 효율이 급격히 떨어질 수 있다. 저자들은 각 시도 후보 i에 대해 서로 다른 제안 분포 q_i(·|x)를 허용함으로써, 지역적 탐색과 전역적 이동을 동시에 수행할 수 있는 구조를 만든다. 이때 각 q_i는 사전 지식(예: 스케일, 방향성)이나 현재 체인의 상태에 따라 동적으로 선택될 수 있다.

두 번째 제한은 단일 체인 내에서만 시도와 수용을 수행한다는 점이다. 저자들은 다중 체인(또는 입자) 집합을 유지하고, 각 체인이 독립적인 MTM 절차를 수행하면서도 서로의 후보 집합을 공유하도록 설계한다. 구체적으로, 체계 A가 자신의 후보 집합 {y_{A,1},…,y_{A,K}}를 생성하면, 다른 체계 B는 이 후보들을 자신의 선택 후보로 활용한다. 이렇게 하면 전체 인구가 서로 보완적인 영역을 탐색하게 되어, 특히 복잡한 다중모달 분포에서 체인 간의 교차 오염(cross‑contamination)을 방지하면서도 탐색 범위가 크게 확대된다.

알고리즘의 마코프성은 두 단계—후보 생성·가중치 계산, 그리고 수용/거절—에서 각각 상세히 증명된다. 후보 생성 단계에서는 각 q_i에 대한 제안 확률을 명시적으로 기록하고, 선택 가중치 w_i(x,y)=π(y)q_i(y|x)/