파라미터 기반 ADAPT‑VQE: 중복 연산자 제거와 측정 비용 절감

초록

본 논문은 기존 ADAPT‑VQE의 그래디언트 기반 연산자 선택이 초래하는 중복 연산자와 높은 측정 비용 문제를 해결하고자, 파라미터 크기를 기준으로 연산자를 선별하는 Param‑ADAPT‑VQE를 제안한다. 서브 해밀토니안을 이용한 비용 절감과 ‘핫‑스타트’ 전역 최적화를 결합해 측정 횟수를 크게 감소시키면서도 에너지 정확도와 회로 깊이를 개선한다. 실험 결과는 BeH₂, LiH, H₂O, NH₃ 등 대표적인 분자에서 기존 ADAPT‑VQE 대비 연산자 수, 에너지 오차, 측정 비용 모두 우수함을 입증한다.

상세 분석

Param‑ADAPT‑VQE는 ADAPT‑VQE의 기본 프레임워크를 그대로 유지하면서, 연산자 선택 기준을 “초기 그래디언트 절댓값”에서 “최적 파라미터 절댓값”으로 전환한다. 구체적으로, 각 후보 연산자 τ_i에 대해 현재 파라미터화된 상태 |ψ(k‑1)⟩에 τ_i를 단일 파라미터 θ_i와 함께 적용하고, 서브 해밀토니안 H_i(τ_i와 인덱스가 겹치는 항만 포함) 위에서 로컬 VQE 최적화를 수행한다. 이때 얻어지는 최적 파라미터 θ_i*의 절댓값이 크면 해당 연산자가 현재 상태에 가장 큰 변화를 기여한다는 의미이며, 이를 기준으로 연산자를 선택한다.

이 접근법은 두 가지 중요한 장점을 제공한다. 첫째, 그래디언트 기반 선택이 종종 “중복” 연산자를 포함하게 되는 현상을 파라미터 크기로 직접 평가함으로써 자연스럽게 회피한다. 그래디언트는 초기 파라미터가 0인 상태에서만 의미가 있으나, 파라미터 최적화 후의 크기는 실제 에너지 감소 기여도를 반영한다. 둘째, 서브 해밀토니안 H_i는 O(N³) 규모로, 전체 해밀토니안 O(N⁴) 대비 측정 비용이 크게 낮다. 따라서 모든 후보 연산자에 대해 로컬 최적화를 수행하더라도 전체 복잡도는 기존 ADAPT‑VQE와 동등한 O(N⁷) 수준에 머무르면서, 전역 VQE 단계에서는 ‘핫‑스타트’ 초기값(θ_i*를 그대로 사용)으로 시작해 수렴 속도를 크게 높인다.

핫‑스타트와 기존 워밍‑스타트(새 파라미터를 0으로 초기화)와의 차이는 특히 파라미터 수가 많아지는 강하게 상관된 시스템에서 두드러진다. 파라미터가 이미 최적에 근접한 상태에서 전역 최적화를 시작하면, BFGS와 같은 2차 최적화 알고리즘이 요구하는 그래디언트 평가 횟수가 급감한다. 실험에서는 이 효과가 전체 측정 횟수 감소에 기여함을 확인하였다.

또한, 제안된 서브 해밀토니안 기법은 연산자 풀 스캔 과정에서 발생하는 측정 오버헤드를 억제한다. 기존 ADAPT‑VQE는 모든 후보 연산자에 대해 전체 해밀토니안을 측정해야 하므로 O(N⁷)·O(N⁴) 수준의 비용이 발생하지만, Param‑ADAPT‑VQE는 각 연산자마다 해당 인덱스를 공유하는 항만 추출해 O(N³) 비용으로 파라미터를 최적화한다. 결과적으로 전체 측정 비용은 O(N⁷)·O(N³) → O(N⁷) 수준으로 유지되면서, 전역 최적화 단계에서의 비용은 크게 감소한다.

알고리즘 흐름은 다음과 같다. (1) 연산자 풀 P와 전체 해밀토니안 H를 정의하고, 각 τ_i에 대해 서브 해밀토니안 H_i를 추출한다. (2) 현재 ansatz U(k‑1)·|ψ₀⟩을 준비하고, 모든 τ_i에 대해 로컬 VQE를 수행해 θ_i를 얻는다. (3) |θ_i|가 사전 정의된 임계값 ε 이하이면 종료하고, 그렇지 않으면 |θ_i*|가 최대인 τ_j를 선택해 e^{θ_j* τ_j}를 현재 ansatz 왼쪽에 삽입한다. (4) 전체 파라미터 집합을 대상으로 전역 VQE를 수행하되, 초기값을 이전 최적 파라미터와 새로 얻은 θ_j로 설정한다(핫‑스타트). (5) 수렴 기준(θ_i < ε 또는 최대 반복 횟수)까지 반복한다.

실험에서는 STO‑3G 기반의 BeH₂, LiH, H₂O, NH₃를 대상으로 에너지 오차, 연산자 수, 측정 비용을 비교하였다. BeH₂에서는 그래디언트 기반 ADAPT‑VQE가 선택한 12개의 연산자 중 5개가 최적화 후 거의 0에 수렴하는 중복 연산자였으나, Param‑ADAPT‑VQE는 8개의 연산자만으로 동일 수준의 에너지 정확도를 달성했다. LiH·H₂O·NH₃에서도 전체 연산자 수가 평균 30% 감소하고, 측정 횟수는 25%~40% 절감되었다. 특히 강하게 상관된 H₂O와 NH₃에서는 전역 최적화 단계에서 요구되는 이터레이션 수가 2배 이상 감소해 전체 실행 시간이 크게 단축되었다.

마지막으로, 제안 방법은 기존 ADAPT‑VQE의 다양한 변형(병렬 연산자 추가, 고급 연산자 구현, 기존 중복 제거 등)과 완전 호환된다. 이는 파라미터 기반 선택 기준만 교체하면 되므로, 향후 더 복잡한 전자 구조 문제나 하이브리드 양자‑고전 알고리즘에 손쉽게 적용 가능함을 의미한다.