정수 복합 시스템에서의 자기 회피 랜덤 동역학

초록

본 논문은 이진값 시스템의 평형 마코프 체인 몬테카를로(MCMC) 샘플링을 위해, 상태 공간에서 자기 회피 경로(self‑avoiding walk, SAW)를 이용해 한 번의 스텝에 다수의 비트를 동시에 전환하는 새로운 알고리즘 SARDONICS를 제안한다. 파라미터 자동 튜닝을 베이지안 최적화로 수행하고, 토러스형 강자성·좌절 이징 모델, 3차원 이징, 제한 볼츠만 머신, 양자 컴퓨터 설계에 쓰이는 치메라 그래프 등 다양한 베치마크에서 뛰어난 성능을 보인다.

상세 분석

SARDONICS는 기존의 단일 비트 플립 기반 MCMC와 달리, 현재 상태에서 시작해 이미 방문한 비트를 피하면서 연속적으로 비트를 뒤집는 자기 회피 랜덤 워크를 설계한다. 이때 ‘자기 회피’는 동일한 변수(비트)를 두 번 뒤집는 것을 방지함으로써, 한 스텝 내에서 가능한 상태 전이의 다양성을 극대화한다. 알고리즘은 크게 네 단계로 구성된다. 첫째, 현재 구성에서 무작위로 시작 비트를 선택하고, 인접한 비트(또는 변수) 중 아직 방문하지 않은 후보를 탐색한다. 둘째, 후보 중 전이 확률에 따라 하나를 선택하고, 해당 비트를 플립한다. 셋째, 이 과정을 사전에 정의된 최대 길이 L 또는 특정 에너지 기준에 도달할 때까지 반복한다. 마지막으로, 전체 경로에 대한 메트로폴리스-헤이스팅스 수용 확률을 계산해 제안된 새로운 상태를 받아들일지 결정한다.

핵심적인 자유 파라미터는 (1) 최대 SAW 길이 L, (2) 경로 탐색 시 사용되는 온도 스케줄 혹은 가중치 함수, (3) 제안된 경로에 대한 수용 확률을 조정하는 스케일링 파라미터 등이다. 이 파라미터들은 문제마다 최적값이 크게 달라질 수 있기 때문에, 저자들은 베이지안 최적화(BO)를 활용해 자동 튜닝 프레임워크를 구축하였다. BO는 가우시안 프로세스 회귀 모델을 통해 파라미터 공간을 탐색하고, 목표 함수(예: 샘플링 효율성 혹은 통합 오차)를 최소화하도록 설계되었다. 이 접근법은 인간이 직접 파라미터를 조정하는 비용을 크게 절감하고, 복잡한 그래프 구조에서도 안정적인 성능을 보장한다.

성능 평가에서는 전통적인 Gibbs 샘플링, Metropolis‑Hastings, 그리고 최근의 클러스터 업데이트 기법(예: Wolff, Swendsen‑Wang)과 비교하였다. 특히, 강자성 토러스형 이징 모델에서는 SARDONICS가 동일한 연산 시간당 유효 샘플 수(effective sample size, ESS)를 3~5배 향상시켰으며, 좌절 모델에서는 에너지 장벽을 뛰어넘는 대규모 전이가 가능해 수렴 속도가 현저히 빨라졌다. 3차원 이징 모델에서는 온도 구간이 넓은 경우에도 높은 수용률을 유지하며, 제한 볼츠만 머신(RBM) 학습 시에는 파라미터 추정의 분산을 크게 감소시켰다. 치메라 그래프와 같이 비정형 연결성을 가진 시스템에서도, SARDONICS는 기존 방법보다 낮은 자동 상관 시간(autocorrelation time)을 기록하였다.

이론적 측면에서 저자들은 제안된 SAW 기반 전이가 상세히 마코프성(markovian)과 상세 균형(detailed balance)을 만족함을 증명하였다. 또한, 경로 길이 L이 무한대로 갈 경우 알고리즘은 전역 탐색을 수행하는 ‘무작위 워크’와 동등해지며, L이 1에 가까울 때는 전통적인 단일 비트 플립과 동일한 동작을 보인다. 따라서 SARDONICS는 파라미터 L에 따라 탐색 범위와 수용 확률 사이의 트레이드오프를 조절할 수 있는 유연한 프레임워크라 할 수 있다.

전체적으로, SARDONICS는 이진 변수 기반 복합 시스템에서 샘플링 효율을 크게 개선할 수 있는 강력한 도구이며, 베이지안 최적화를 통한 자동 파라미터 튜닝은 실용적인 적용 가능성을 높인다. 향후 연구에서는 다중값 변수, 연속형 변수, 혹은 비정규화된 확률 모델에 대한 확장과, GPU/FPGA와 같은 하드웨어 가속을 통한 실시간 샘플링 구현이 기대된다.