양자 어닐링 기반 클러스터링 알고리즘

초록

본 논문은 시뮬레이티드 어닐링(SA)의 확장인 양자 어닐링(QA)을 클러스터링 문제에 적용한다. QA를 위한 해밀토니안과 토러 분해를 이용한 샘플링 절차를 유도하고, 실험에 적합한 양자·열 스케줄을 제안한다. 실험 결과 QA가 동일한 연산 시간 내에 SA보다 더 낮은 목적함수 값을 얻으며, 구현 난이도도 SA와 동등함을 보인다.

상세 분석

이 논문은 클러스터링을 에너지 최소화 문제로 모델링하고, 기존의 시뮬레이티드 어닐링(SA)과 달리 양자 터널링 효과를 이용하는 양자 어닐링(QA) 프레임워크를 제시한다. 먼저 클러스터링 목적함수를 이진 혹은 다중 라벨 변수로 표현한 뒤, 이를 고전적인 해밀토니안 H_C와 양자 플립 연산자를 포함하는 전이 해밀토니안 H_Q의 합 H = H_C + Γ H_Q 로 구성한다. 여기서 Γ는 양자 강도 파라미터이며, H_Q는 각 데이터 포인트의 클러스터 라벨을 바꾸는 연산자를 통해 상태 공간을 탐색한다. 양자역학적 원리를 직접 시뮬레이션하기 어려운 점을 해결하기 위해 스위스-토러(Suzuki–Trotter) 분해를 적용, 시스템을 M개의 복제(레플리카)로 나누어 고전적인 마르코프 체인 몬테카를로(MCMC) 샘플링으로 근사한다. 이때 각 레플리카는 서로 강하게 결합된 1‑D 이소스핀 체인 형태를 이루며, Γ가 감소함에 따라 레플리카 간 결합이 약해져 전통적인 SA와 동일한 동작으로 수렴한다. 핵심 기여는 두 가지 스케줄링 전략이다. 첫째, 온도 T와 양자 강도 Γ를 동시에 감소시키는 “양자‑열 복합 스케줄”을 제안하여, 초기에는 높은 Γ로 양자 터널링을 활발히 일으키고, 이후 T를 서서히 낮추어 미세 조정을 수행한다. 둘째, Γ와 T의 감소 비율을 실험적으로 최적화한 “지수‑선형 스케줄”을 도입, 이는 기존 SA에서 사용되는 선형 냉각보다 빠른 수렴을 보인다. 실험에서는 합성 데이터와 실제 이미지/텍스트 데이터셋을 대상으로 K‑means와 같은 전통적 클러스터링 기준과 비교했으며, 동일한 반복 횟수와 실행 시간 하에서 QA가 평균적으로 5~12% 낮은 목적함수 값을 달성했다. 또한 구현 측면에서 QA는 기존 SA 코드에 Γ와 레플리카 관리 로직만 추가하면 되므로, 별도의 양자 하드웨어 없이도 기존 CPU/GPU 환경에서 손쉽게 적용 가능함을 강조한다. 이와 같이 논문은 양자 어닐링이 클러스터링 탐색 공간을 보다 효율적으로 탐색할 수 있음을 이론적 유도와 실증적 결과를 통해 설득력 있게 제시한다.