강인한 변분 기반 양자 바닥상태 솔버: 소산 피드백과 H∞ 제어

초록

양자 광학 시스템을 소산 QSDE 모델로 파라미터화하고, 안정적인 고유상태 에너지를 최소화함으로써 목표 해밀토니안의 바닥상태를 변분적으로 찾는다. 물리적 실현성(Physical Realizability)과 고유한 정상상태 수렴을 보장하고, H∞ 제어를 도입해 외란에 대한 강인성을 강화한다. 수소 분자 모델링 실험에서 QAOA와 비교해 구조적 안정성과 구현 가능성을 입증하였다.

상세 분석

본 논문은 양자 광학 플랫폼에서 자연스럽게 등장하는 보소니 연산자를 활용해 개방 양자 시스템의 바닥상태 문제를 해결하는 새로운 변분 프레임워크를 제시한다. 핵심 아이디어는 시스템을 양자 입력‑출력 이론에 기반한 QSDE(Quantum Stochastic Differential Equation) 형태로 모델링하고, 시스템의 해밀토니안 H와 결합 연산자 L을 파라미터화하여 정상상태 에너지 J(θ)=J₁+J₂를 최소화하는 것이다. 여기서 J₁은 1차 공분산 S₁에 대한 이차형 비용, J₂는 2차 공분산 S₂에 대한 4차형 비용으로 정의되며, 각각 목표 해밀토니안의 이차·사차 상수 h_i, g_ij 에 의해 결정된다.

물리적 실현성(Physical Realizability, PR) 제약을 만족하도록 시스템 행렬 Y(θ), B(θ) 를 고정된 기저 행렬들의 선형 결합으로 표현한다. PR 조건은 A(θ)+A(θ)♭+B(θ)B(θ)♭=0 형태의 대수식으로 구현되며, 이는 시스템이 실제 양자 광학 장치(예: 캐비티 QED, 포톤 결정 회로)에서 구현 가능함을 보장한다. 정상상태 공분산 S₁, S₂는 각각 알제브라적 Lyapunov 방정식(18)과 확장된 Riccati 형태(19)를 풀어 얻는다. 이 방정식들은 고차원 시스템에서도 실험적으로 측정 가능한 정상상태 통계량으로 대체될 수 있어, 고전 시뮬레이션의 지수적 복잡도를 회피한다.

변분 최적화는 고차원 파라미터 공간에서도 효율적인 SPSA(Simultaneous Perturbation Stochastic Approximation) 알고리즘을 사용한다. SPSA는 두 번의 비용 평가만으로 기울기를 추정해 파라미터 θ를 업데이트하므로, 양자 실험에서 요구되는 측정 횟수를 최소화한다. 또한, 초기 상태에 무관하게 고유한 정상상태로 수렴하도록 설계돼, 초기화 비용과 재설정 오버헤드를 크게 낮춘다.

강인성 강화를 위해 H∞ 제어를 통합한다. 외란 dw(t)와 제어 입력 du(t)를 포함한 확장 시스템을 정의하고, 목표는 전송 함수 T_{dw→dz}의 H∞ 노름을 사전 지정된 감쇠 수준 g 미만으로 제한하는 것이다. 이를 위해 양자 버전의 Riccati 방정식을 풀어 코히어런트 컨트롤러 A_K, B_K, C_K 를 설계한다. PR 제약을 만족하는 전량 양자 컨트롤러뿐 아니라, 측정 기반 하이브리드 구조도 허용함으로써 구현 유연성을 확보한다. 최종 폐루프 시스템은 정상상태 안정성 및 H∞ 성능을 동시에 만족한다.

실험적 검증으로, 논문은 두 번째 양자화된 수소 분자 해밀토니안을 보소니 형태로 변환하고, 제안된 변분 설계와 H∞ 컨트롤러를 적용했다. 결과는 QAOA와 비교했을 때 에너지 오차가 작고, 외란이 가해져도 정상상태 에너지가 크게 변동하지 않으며, 물리적 구현 가능성이 높은 파라미터 집합을 도출한다는 점에서 구조적·운용적 장점을 강조한다.

요약하면, 이 연구는 (1) QSDE 기반의 연속‑시간 변분 최적화, (2) PR 제약을 통한 물리적 실현성 보장, (3) H∞ 제어를 통한 강인성 확보라는 세 축을 결합해, 보소니 연산자를 직접 활용하는 양자 광학 시스템에서 바닥상태 계산을 실현 가능한 방법으로 제시한다. 이는 전통적인 큐비트 회로 기반 VQE·QAOA와 차별화된 접근으로, 특히 아날로그 양자 시뮬레이터와 오픈 시스템 실험에 적합한 새로운 패러다임을 제공한다.