라그랑주 동역학을 활용한 양자 자연 기울기 최적화의 가속화

초록

본 논문은 라그랑주 방정식에 양자 자연 기울기(QNG) 힘을 결합한 이산 시간 해를 도입하여 모멘텀을 포함한 새로운 최적화 알고리즘인 Momentum‑QNG를 제안한다. 기존 QNG와 비교해 모멘텀 항이 지역 최소점과 플래토를 탈피하도록 도와주며, 포트폴리오 최적화, Sherrington‑Kirkpatrick 스핀 글래스 모델, 그리고 QAOA 기반 최소 정점 커버 문제 등 다양한 양자 변분 알고리즘에 대해 실험적으로 우수한 수렴 속도와 정확도를 보였다.

상세 분석

논문은 먼저 양자 변분 회로 최적화에 자연 기울기(Natural Gradient, NG)의 개념을 도입한 Quantum Natural Gradient(QNG) 알고리즘을 리뷰한다. QNG는 파라미터 공간에 정의된 Fubini‑Study 메트릭 텐서를 역행렬로 곱해 파라미터 업데이트 방향을 재스케일함으로써 과다 파라미터화(over‑parameterization) 문제를 완화하고, 좌표 변환에 불변인 최적화 경로를 제공한다. 그러나 QNG는 비볼록(loss) 함수에서 지역 최소점, 안장점, 플래토에 쉽게 머무르는 단점이 있다.

이를 해결하기 위해 저자들은 다차원 라그랑주 동역학을 최적화와 연결한다. 라그랑주 방정식에 점성 마찰(γ)과 백색 잡음(R(t))을 추가한 Langevin 방정식(7)을 이산화하면, 업데이트 식 (11)‑(13)이 얻어지며 이는 전통적인 모멘텀 SGD와 동일한 형태임을 보인다. 여기서 모멘텀 계수 ρ와 학습률 η는 γ와 시간 스텝 Δt에 의해 정의된다. 잡음의 분산과 온도 T 사이의 관계식(15)‑(17)를 통해 모멘텀 증가가 파라미터 변동 폭을 확대시켜 지역 최소점 탈출 가능성을 높임을 이론적으로 설명한다.

이제 QNG의 결정론적 힘 f = −g⁻¹∇L을 Langevin 방정식의 힘에 대입하면, 모멘텀을 포함한 업데이트 식 (19)이 도출된다. 이는 기본 QNG(ρ=0)를 일반화한 Momentum‑QNG이며, ρ>0일 때 기존 QNG보다 더 큰 관성 효과를 제공한다. 저자들은 이 알고리즘을 기존 Momentum, Adam, 기본 QNG와 비교 실험한다.

실험 설정은 PennyLane 프레임워크를 이용해 Python 클래스로 구현했으며, Fubini‑Study 메트릭은 블록 대각선 근사와 정규화 λ=0.5를 사용했다. 초기 파라미터는 모두 0으로 설정하고, 동일한 랜덤 시드로 여러 번 시도한다.

첫 번째 베치인 포트폴리오 최적화(6, 11, 12 qubit Ising 모델)에서는 Momentum‑QNG, Momentum, Adam이 모두 QNG보다 낮은 에너지 오차와 안정적인 수렴을 보였으며, 특히 Adam이 가장 넓은 학습률 구간에서 견고했다. 두 번째 베치인 양자 Sherrington‑Kirkpatrick 모델에서는 전이장 g가 0.1인 강한 스핀 글래스 영역에서 기본 QNG가 가장 낮은 에러를 기록했지만, g가 10⁻³, 10⁻⁵인 약한 전이장에서는 Momentum‑QNG가 최고 성능을 달성했다. 이는 모멘텀 항이 잡음 수준이 낮은 경우에도 파라미터 공간을 넓게 탐색하게 함을 시사한다.

마지막으로 QAOA 기반 최소 정점 커버 문제(N=4,8)에서는 Momentum‑QNG와 Adam이 유사한 최고 품질 비율을 얻었으며, QNG는 전반적으로 낮은 성공 확률을 보였다. 수렴 단계 수 측면에서도 Momentum‑QNG는 중간 정도의 학습률 구간에서 안정적인 수렴을 제공했고, Adam은 가장 넓은 구간에서 빠른 수렴을 보였다.

이론적 분석과 실험 결과를 종합하면, 라그랑주‑QNG 결합은 기존 QNG의 관성 부재를 보완해 비볼록 양자 최적화 문제에서 지역 최소점 탈출 능력을 크게 향상시킨다. 특히 모멘텀 계수 ρ를 적절히 조정하면 잡음 수준과 문제의 복잡도에 따라 최적의 탐색‑수렴 균형을 맞출 수 있다. 향후 연구에서는 온도 T와 마찰 γ를 동적으로 조절하는 적응형 스케줄링, 그리고 메트릭 텐서의 더 정교한 근사(예: 전체 행렬 역전)와 결합해 더욱 높은 차원의 양자 회로에 적용하는 방안을 탐색할 여지가 있다.