상수 온도 시뮬레이티드 어닐링의 지역 최소 탈출: 유한 시간 마코프 체인 분석

초록

본 논문은 1차원 조각선형 비용 함수를 이용해 상수 온도 시뮬레이티드 어닐링(SA)의 유한 시간 행동을 정확히 분석한다. 단일 선형 골짜기에서의 탈출 평균 시간을 폐쇄형 식으로 도출하고, 연속 상태 모델에 적용했을 때 √3의 보정 계수가 필요함을 실험적으로 확인한다. 또한 두 개의 골짜기(지역 최솟값·전역 최솟값)를 가진 구조로 확장해 전역 최적점 도달 평균 시간을 구하고, 이를 기반으로 두 단계 온도 전환 전략을 제안한다.

상세 분석

논문은 먼저 상수 온도 하에서 SA를 이산 마코프 체인으로 모델링한다. 1‑D 조각선형 비용 함수는 중앙에서 깊이 d, 폭 w, 제안 반경 r을 갖는 골짜기로 정의되며, 상태 공간은 ±N(=w²/r)개의 격자로 이산화된다. 전이 확률은 메트로폴리스 수용 기준에 따라 위쪽(에너지 상승) 이동 확률 p=½·exp(−2rd/(wT)) 로 설정하고, 아래쪽 이동은 ½, 정지 확률은 ½−p 로 구성한다. 이때 평균 탈출 시간 T_i는 차분 방정식 (0.5+p)T_i−0.5T_{i−1}−pT_{i+1}=1 로부터 시작해 첫 차분 b_i=T_i−T_{i+1}에 대한 1차 재귀 b_i = 1/p + α b_{i−1} (α=1/2p) 로 변형된다. 이를 telescoping sum 으로 풀면 식 (3) 형태의 폐쇄형 해를 얻는다.

연속 상태 SA와의 비교에서는 동일한 물리 파라미터를 사용했을 때 이산 모델이 평균 탈출 시간을 약 1.67배 과대평가한다는 사실을 발견한다. 이는 제안 분포의 분산 차이에서 기인한다. 이산 모델의 제안 반경 r_disc 의 분산은 r_disc²/3 이고, 연속 확산 한계의 분산은 r_cont² 이다. 두 분산을 일치시키면 r_cont = √3·r_disc 가 필요함을 보이며, 실험적으로 wT²/(rd) 가 충분히 커질 때(즉, 경계 효과가 무시될 때) 이 비율이 정확히 √3 로 수렴한다. 따라서 반경을 √3 배 확대한 후 식 (3)을 적용하면 연속 SA의 평균 탈출 시간과 7 % 이내의 오차로 일치한다.

두 골짜기 확장에서는 좌·우 각각 다른 폭(w₁,w₂)·깊이(d₁,d₂)와 전이 확률 p, q 를 갖는다. 중앙 장벽 M에서는 전이 확률이 균등(½)이며, 오른쪽 골짜기에서는 상승 확률 q=½·exp(−2rd₂/(w₂T)) 로 정의된다. 좌·우 각각에 대해 첫 차분 D_i, B_j 를 도입하고, 경계조건 D₀=α, B_{N−1}=0, 그리고 장벽에서 D_M = B_M + 2 로 연결한다. 동일한 telescoping 기법을 적용하면 전역 최적점(N)까지의 평균 도달 시간 T_i 를 복합적인 합으로 표현한다(식 (??)). 중요한 결과는 탈출 시간은 주로 서브옵티멀 골짜기의 기하학적 파라미터(w₁,d₁)와 온도 T 에 의해 지배된다는 점이다. 따라서 서브옵티멀 골짜기의 평균 탈출 시간 τ̂ 를 사전에 계산하고, τ̂ 에 비례하는 시점에 온도를 낮추는 두 단계 스케줄을 설계하면 전체 수렴 속도가 크게 향상된다. 실험에서는 τ̂ 와 최적 전환 시점 사이에 거의 2차 함수 관계가 존재함을 확인하였다.

이 논문의 핵심 기여는 (1) 상수 온도 SA의 유한 시간 탈출 시간을 정확히 구한 폐쇄형 식, (2) 이산‑연속 모델 간의 분산 매칭을 통해 √3 보정 계수를 도출한 이론‑실험 정합, (3) 두 골짜기 구조에 대한 일반화된 평균 도달 시간 식, (4) 위 식을 활용한 실용적인 두 온도 전환 전략 제시이다. 이러한 결과는 기존의 비대칭적이고 복잡한 스펙트럼 경계나 로그 스케줄 기반 수렴 분석을 보완하며, 고차원·다중 골짜기 문제에 대한 정량적 설계 지표를 제공한다는 점에서 의미가 크다.