연속 밴딧으로 풀어낸 변분 양자 최적화

초록

본 논문은 변분 양자 알고리즘(VQA)의 파라미터 최적화를 연속적인 베스트 암 식별 문제로 모델링하고, 이를 해결하기 위한 새로운 연속 밴딧 알고리즘을 제안한다. Lipschitz 연속성을 가정한 1차원 연속 밴딧에서 정보 이론적 인스턴스‑특정 하한을 도출하고, 그 하한에 로그 팩터만큼 차이 나는 적응형 파티셔닝 알고리즘을 설계한다. 제안 방법을 파라미터화된 양자 회로(PQC)와 QAOA에 적용한 실험에서 기존의 그라디언트 기반 최적화(SPSA, COBYLA 등)보다 샘플 효율성과 최종 목표값 측면에서 현저히 우수함을 보였다.

상세 분석

본 연구는 변분 양자 알고리즘(VQA)의 핵심 난제인 ‘바레 플래토(Barren Plateau)’ 현상을 새로운 관점에서 접근한다. 기존의 0차·1차 그라디언트 기반 최적화는 파라미터 차원이 커질수록 기울기와 손실 차이가 지수적으로 감소해 탐색이 거의 불가능해지는 문제가 있다. 저자들은 이를 ‘베스트 암 식별(Best Arm Identification)’ 문제와 동일시하고, 연속적인 무한 팔 공간에서의 밴딧 프레임워크를 도입한다. 특히, 기대 보상이 Lipschitz 연속이며 서브가우시안 잡음을 가진다고 가정함으로써, 연속 밴딧 이론에서 사용되는 ‘커버링 넘버’와 ‘줌잉 차원(Zooming dimension)’ 개념을 VQA에 직접 매핑한다.

핵심 이론적 기여는 두 가지이다. 첫째, 연속 밴딧의 인스턴스‑특정 하한을 정보 이론적으로 도출한다. 이는 기존의 이산 밴딧 하한을 적분 형태로 일반화한 것으로, 특정 µ 함수에 대해 최적 팔을 찾기 위해 필요한 최소 샘플 수가 log(1/δ)·c*(µ) 이상임을 보인다. 여기서 c*(µ)는 대안 함수 집합 Alt_ε(µ)와 확률 밀도 w에 대한 최적화 문제로 정의된다. 둘째, 이 하한에 거의 도달하는 알고리즘을 제시한다. 알고리즘은 초기 전체 구간을 균등히 분할한 뒤, 각 구간에서 샘플 평균과 신뢰 구간을 계산해 ‘가장 유망한 구간’을 재귀적으로 세분화한다. 이 과정은 줌잉 차원 β에 따라 구간 수가 O(ε^{-β})로 증가하지만, 각 단계에서의 연산 복잡도는 샘플 수에 선형적으로 비례한다는 점에서 실용적이다.

실험 부분에서는 두 가지 대표적인 VQA 사례를 선택했다. 첫 번째는 파라미터화된 양자 회로(PQC)로, 목표는 특정 Hamiltonian의 기대값을 최소화하는 것이었다. 두 번째는 QAOA(Quantum Approximate Optimization Algorithm)로, Max-Cut 문제의 근사 해를 찾는 것이 목표였다. 두 경우 모두 기존의 SPSA, COBYLA, 그리고 최근의 베이지안 최적화와 비교했을 때, 제안된 연속 밴딧 알고리즘은 동일한 샘플 예산 하에서 더 높은 목표값(또는 더 낮은 손실)을 달성했으며, 특히 파라미터 차원이 10 이상으로 증가할 때 그 차이가 두드러졌다. 또한, 그라디언트가 거의 사라지는 바레 플래토 구간에서도 알고리즘은 전역 탐색 능력을 유지해 성공적으로 최적점에 수렴했다.

이 논문은 VQA 최적화에 밴딧 이론을 적용함으로써, 전통적인 그라디언트 기반 방법이 갖는 한계를 극복하고, 이론적 최적성(인스턴스‑특정 하한에 근접)과 실용적 효율성(샘플당 연산 비용이 낮음)을 동시에 만족하는 새로운 패러다임을 제시한다. 향후 다차원 연속 밴딧으로의 확장, 양자 회로 구조에 대한 사전 지식(예: 모노달성)과 결합한 하이브리드 알고리즘 개발, 그리고 실제 NISQ 디바이스에서의 잡음 모델링을 포함한 실험적 검증이 기대된다.