양자변분법과 신경망의 안전한 융합: 정규화‑프리 대각 유니터리 포스트프로세싱

초록

본 논문은 변분 양자 고유값 탐색(VQE)에 비단위 대각 후처리(DNP)가 정규화 문제로 변분 안전성을 위협함을 증명하고, 정규화 없이도 변분 원리를 보존하는 대각 유니터리 포스트프로세싱 방식(U‑VQNHE)을 제안한다. DNP는 샷 수가 다항식 수준일 때 에너지 추정이 불안정하고, 정확한 바닥 상태 재구성에는 지수적인 가중치 범위가 필요함을 보이며, U‑VQNHE는 이러한 한계를 극복해 정확도와 견고성을 동시에 향상시킨다.

상세 분석

논문은 먼저 VQE의 변분 원리(Rayleigh‑Ritz)와 신경망 기반 후처리의 일반적인 구조를 정리한다. 여기서 ‘대각 비유니터리 포스트프로세싱(DNP)’은 측정 결과 x∈Ω에 대해 비음수 가중치 f(x) 를 부여하고, 정규화된 상태 |ψ̃⟩=Df|ψ⟩/‖Df|ψ‖ 로 변환한 뒤 에너지 E_f(θ)=⟨ψ|Df†HDf|ψ⟩/⟨ψ|Df†Df|ψ⟩ 를 최소화한다. 이때 분자와 분모를 서로 다른 샷 집합으로 추정하기 때문에, 유한 샷에서는 정규화 Z_f=⟨ψ|Df†Df|ψ⟩ 의 추정 오차가 비대칭적으로 전파된다. 저자들은 이를 ‘정규화 병목’이라 명명하고, 두 가지 주요 위험을 제시한다. 첫째, Df가 비유니터리이면 가중치 w(s)=|f(s)|² 가 원래 Born 분포 p_ψ(s) 를 크게 왜곡해 지원(support) 불일치가 발생한다. 이 경우 분자와 분모가 거의 겹치지 않아 비율 추정이 급격히 불안정하고, 경험적 에너지가 실제 바닥 상태 에너지보다 낮아지는 ‘sub‑variational’ 현상이 나타난다. 둘째, 바닥 상태를 정확히 복원하려면 Df가 제공해야 하는 가중치 범위가 n(큐빗 수)에 대해 지수적으로 커져야 한다. 이는 (i) 상수 깊이 ansatz 에 대해서도, (ii) 선형 깊이이며 unitary 2‑design을 이루는 회로에 대해서도 동일하게 적용된다. 따라서 다항식 수준의 샷 수로는 충분한 가중치 스케일을 확보할 수 없으며, DNP는 제시된 세 가지 desiderata(자체 학습, 다항식 자원, 변분 일관성)를 동시에 만족하지 못한다는 ‘no‑go’ 결과가 도출된다. 이러한 한계를 극복하기 위해 저자들은 ‘정규화‑프리’ 설계 원칙을 도입한다. 구체적으로, Df를 대각 유니터리 U_f=∑_x e^{iφ(x)}|x⟩⟨x| 로 제한함으로써 ‖U_f|ψ⟩‖=1 을 보장한다. 이 경우 에너지 함수는 단순히 ⟨ψ|U_f†HU_f|ψ⟩ 로 변환되며, 비율 추정이 사라져 정규화 오차가 전혀 존재하지 않는다. 새로운 프레임워크를 ‘Unitary Variational Quantum‑Neural Hybrid Eigensolver(U‑VQNHE)’라 명명하고, 기존 DNP와 동일한 대각 구조를 유지하면서도 변분 안전성을 구조적으로 확보한다. 실험적으로는 1‑D transverse‑field Ising model을 대상으로, 다양한 시스템 크기와 깊이에서 U‑VQNHE가 VQE와 DNP 기반 변형보다 에너지 오차가 현저히 감소하고, 샷 수가 제한된 상황에서도 안정적인 수렴을 보임을 확인한다. 특히, U‑VQNHE는 학습 과정에서 발생할 수 있는 ‘에너지 언더슈팅’ 현상이 전혀 나타나지 않아, 변분 원리의 검증 메커니즘을 그대로 활용할 수 있다.