양자 어닐링에서 잠재 에너지의 비전통적 역할

초록

본 논문은 골프코스형 평탄한 퍼텐셜 에너지 지형에서 단일 깊은 구멍을 찾는 문제를 통해, 양자 어닐링이 고전적 탐색과 달리 구멍의 깊이에 따라 탐색 속도가 달라지는 비전통적 잠재 에너지 역할을 보여준다. 양자 입자는 깊은 구멍일수록 빠르게 위치를 찾으며, 이는 양자 상전이와 연관된 에너지 갭 변화에 기인한다.

상세 분석

이 연구는 전통적인 양자 어닐링(Adiabatic Quantum Annealing, AQA)의 기본 가정—즉, 계산 문제를 고전적인 퍼텐셜 에너지 함수의 전역 최소점 탐색으로 변환하고, 외부 양자 플럭투에이션을 서서히 감소시켜 시스템을 그 최소점으로 인도한다—를 골프코스형 퍼텐셜 에너지 지형(golf‑course potential)이라는 특수한 경우에 적용한다. 골프코스형 지형은 거의 평탄한 배경에 단 하나의 깊은 ‘홀’(잠재 최소점)만 존재한다는 점에서, 고전적 탐색자는 각 점을 순차적으로 방문해야 하므로 구멍의 깊이에 무관하게 평균 탐색 시간은 전체 상태 수에 비례한다. 반면 양자 입자는 초기 상태에서 전역적인 파동함수로 전체 지형을 동시에 탐색한다는 점이 핵심이다.

논문은 1차원 이진 스핀 체계와 그에 대응하는 두 수준(ground state와 excited state) 모델을 사용해 해밀토니안을
(H(s)= (1-s) H_{\text{kin}} + s H_{\text{pot}})
형태로 정의한다. 여기서 (H_{\text{kin}})는 전이(플립) 연산자를 포함한 양자 플럭투에이션 항이며, (H_{\text{pot}})는 골프코스형 퍼텐셜을 구현한다. 파라미터 (s)는 어닐링 진행 정도를 나타내며, (s=0)에서 완전한 양자 플럭투에이션, (s=1)에서 순수한 고전 퍼텐셜이 된다.

핵심 결과는 두 가지 측면에서 도출된다. 첫째, 구멍의 깊이 (\Delta)가 커질수록 최소 에너지 갭 (\Delta_{\min})이 커져, 아다이어빗(adiabatic) 조건 (\tau \gg \hbar/\Delta_{\min}^2)를 만족하는 데 필요한 전체 어닐링 시간 (\tau)가 감소한다. 즉, 깊은 구멍일수록 양자 시스템이 비틀림 없이 해당 상태로 전이할 확률이 높아져 탐색이 가속된다. 둘째, 이 시스템은 (\Delta)가 임계값 이하일 때와 초과할 때 사이에 양자 상전이(quantum phase transition)를 겪는다. 상전이 전후로 에너지 스펙트럼 구조가 급격히 변하면서, 특히 상전이 직후에 에너지 갭이 급격히 열리게 된다. 이는 어닐링 스케줄을 적절히 설계하면 상전이 직후의 큰 갭을 활용해 빠른 수렴을 달성할 수 있음을 시사한다.

고전적 시뮬레이션과 비교했을 때, 양자 어닐링은 구멍의 깊이에 전혀 의존하지 않는 고전적 탐색 시간 (\mathcal{O}(2^N))에 비해, 깊은 구멍에서는 (\mathcal{O}(N)) 수준의 선형 스케일링을 보인다. 이는 양자 얽힘과 터널링 효과가 전체 상태 공간을 동시에 탐색함으로써, 특정 에너지 고저에 대한 ‘감도’를 갖게 만든다. 또한, 논문은 수치적 시뮬레이션을 통해 다양한 (\Delta)와 어닐링 스케줄(선형, 비선형) 하에서 성공 확률과 최종 에너지 오차를 측정했으며, 깊은 구멍일수록 성공 확률이 급격히 상승하고 최종 오차가 감소함을 확인했다.

이러한 결과는 양자 어닐링이 단순히 ‘전역 최소’를 찾는 메커니즘을 넘어, 퍼텐셜 에너지의 형태—특히 깊이와 국소적 구조—에 따라 동적 성능이 크게 달라질 수 있음을 보여준다. 따라서 실제 최적화 문제에서 에너지 지형이 ‘골프코스형’에 가깝다면, 문제 설계 단계에서 인위적으로 깊은 로컬 최소를 삽입해 양자 어닐러의 성능을 향상시킬 수 있는 새로운 전략을 제시한다.