양자 최적화의 안개 앤더슨 국소화가 드러낸 한계

본 논문은 양자 어다베틱 최적화(AQO)가 NP‑완전 문제를 해결하는 잠재적 방법으로 제안된 이후, 그 효율성에 대한 근본적인 한계를 제시한다. 먼저, NP‑완전성의 정의와 P vs NP 문제를 간략히 소개하고, 양자 컴퓨팅에서 Shor 알고리즘이 소인수분해에 성공했음에도 불구하고 동일한 성공을 NP‑완전 문제에 적용하기는 어려웠던 배경을 설명한다. AQO는 문제 해를 해밀토니안 Ĥₚ의 바닥 상태에 인코딩하고, 쉬운 초기 해밀토니안 Ĥ₀와 선형 결합한 Ĥ(s) 를 시간에 따라 천천히 변형함으로써 바닥 상태를 따라가게 하는 방식이다. adiabatic 정리에 따르면 변환 시간 T는 최소 에너지 갭 Δₘᵢₙ의 제곱에 반비례하므로, Δₘᵢₙ이 작아지면 실행 시간이 급격히 늘어난다. 기존 연구에서는 특정 인스턴스나 초기 해밀토니안 선택이 나쁜 경우에만 Δ가 지수적으로 작아진다고 보고했으며, 무작위 인스턴스에서는 다항식적 감소만 보인다고 주장했다. 저자들은 이러한 기대를 뒤흔들기 위해 Anderson localization(AL) 이론을 도입한다. EC3(Exact Cover 3) 문제를 대표적인 NP‑완전 문제로 선택하고, 문제 해밀토니안 Ĥₚ를 비용 함수 f(x) 에 기반해 정의한다. 비트 x_i 를 스핀 σ_i^z =±1 으로 치환하고, Pauli 연산자를 이용해 Ĥₚ 를 구성한다. 초기 해밀토니안 Ĥ₀는 모든 스핀을 x축 방향으로 정렬하는 전이장 형태이다. 전체 해밀토니안 Ĥ_QC(λ)=Ĥₚ+λĤ₀는 하이퍼큐브(2^N 정점) 위에서 입자가 점프하는 모델과 동일하게 보인다. 각 정점에 할당된 온‑사이트 에너지 Eₚ(σ) 는 무작위 EC3 인스턴스에 의해 강한 무질서를 제공한다. 따라서 이 시스템은 전통적인 Anderson 모델과 구조적으로 일치하며, 고차원 하이퍼큐브에서도 파동함수가 특정 정점에 국소화될 수 있다. AL이 발생하면 두 국소화된 상태 사이의 터널링 행렬 원소 V₁₂ 가 정점 간 해밍 거리 d 에 대해 V₁₂∝e^{-γd} 와 같이 지수적으로 감소한다. 이때 두 에너지 레벨은 ‘반교차(anti‑crossing)’를 일으키며, 최소 갭 Δₘᵢₙ≈|V₁₂| 가 역시 지수적으로 작아진다. 논문은 특히 α≈αₛ(절대 만족 가능성 임계값) 근처에서 솔루션이 극히 적고 서로 해밍 거리 O(N) 를 갖는 상황을 분석한다. 이 경우 두 솔루션 사이의 터널링은 e^{-cN} 정도로 급격히 억제되어, AQO가 진행되는 동안 반드시 발생하는 반교차에서 최소 갭이 지수적으로 작아진다. 정량적 증명을 위해 저자들은 λ에 대한 섭동 전개를 수행한다. 에너지 E(λ,σ)=Eₚ(σ)+∑_{m≥1}λ^{2m}F^{(m)}(σ) 이며, 각 F^{(m)} 는 O(N)개의 독립적인 무작위 항들의 합이다. 두 솔루션 σ₁,σ₂ 의 에너지 차는 ΔE(λ)=√N·∑_{m≥1}λ^{2m}f^{(m)} 와 같이 √N에 비례한다. 반면 V₁₂는 λ^{k}·e^{-γN} 형태로 매우 작다. 따라서 최소 갭은 Δₘᵢₙ∼e^{-γ'N} 보다도 더 급격히 감소한다는 결론에 도달한다. 시뮬레이션에서는 N≈1000 이상의 무작위 EC3 인스턴스에 대해 최소 갭이 지수적으로 감소함을 확인하였다. 이는 기존에 보고된 N≤124 범위에서의 다항식적 감소와는 전혀 다른 스케일링이다. 결과적으로 N→∞ 극한에서 AQO가 올바른 해를 찾을 확률은 0에 수렴한다. 즉, 무작위 NP‑완전 문제에 대해 AQO는 근본적으로 비효율적이며, ‘양자 어다베틱 최적화는 실제 대규모 문제에 적용될 수 없다’는 강력한 부정적 결론을 제시한다. 이 논문은 AQO와 전통적인 양자 회로 모델이 이론적으로 동등함을 재확인하면서도, 무질서와 Anderson localization이 양자 최적화 알고리즘의 복잡도에 미치는 영향을 최초로 정량화한다는 점에서 학문적 의의가 크다. 또한, 반교차와 최소 갭의 통계적 특성을 고차원 하이퍼큐브 모델에 적용함으로써 양자 컴퓨팅 분야에서 무작위 NP‑완전 문제에 대한 기대를 재조정하도록 촉구한다.