엔SEMBLE N‑표현가능성 판단을 위한 정제 기반 양자 변분 알고리즘

초록

본 논문은 혼합(엔셈블) 전자 상태의 p‑body 감소밀도행렬(p‑RDM)이 실제 N‑전자 파동함수에서 유도될 수 있는지를 판단하는 새로운 양자 알고리즘을 제시한다. 엔셈블 상태를 확장 힐베르트 공간에 순수 상태로 정제(purify)한 뒤, ADAPT‑VQA 프레임워크를 이용해 변분 유니터리를 반복 적용해 목표 p‑RDM과의 힐베르트‑슈미트 거리를 최소화한다. 수치 실험으로 2‑, 3‑, 4‑전자 모델 및 H₂, H₃ 분자(유한 온도)에서 알고리즘의 정확도와 오류 정정 능력을 검증하였다.

상세 분석

이 연구는 전자구조 이론의 핵심 난제인 N‑representability 문제를 양자컴퓨팅 관점에서 확장한다. 기존의 순수 상태 N‑representability 검증을 위해 제안된 ADAPT‑VQA(Adaptive Derivative‑Assembled Pseudo‑Trotter Variational Quantum Algorithm)를 기반으로, 엔셈블(혼합) 상태에 대한 검증·정정 메커니즘을 설계하였다. 핵심 아이디어는 Schmidt 정리와 Schrödinger‑Hughston‑Jozsa‑Wootters 정리를 활용해 주어진 혼합 상태 ρ를 보조 시스템 B와 결합한 순수 상태 |Ψ_sb⟩=∑_i√p_i|ϕ_i⟩⊗|b_i⟩ 로 정제(purify)하는 것이다. 이렇게 정제된 순수 상태의 p‑RDM은 원래 엔셈블 상태의 p‑RDM과 완전히 동일하므로, 순수 상태용 변분 알고리즘을 그대로 적용할 수 있다.

알고리즘은 초기 정제 상태 |Ψ₀⟩ (예: |ϕ₀⟩⊗|ϕ₀⟩)에서 시작해, 페르미온 생성·소멸 연산자를 조합한 반허미티안(anti‑Hermitian) 연산자 풀 {Ô}을 이용한다. 각 반복 k에서 e^{θÔ}|Ψ_{k‑1}⟩ 형태의 유니터리 변환을 적용하고, θ를 최적화해 목표 p‑RDM과의 힐베르트‑슈미트 거리 D_k=‖pρ_k−pρ_target‖₂² 를 최소화한다. 거리 감소가 사전에 정의한 수렴 기준 δ 이하가 되면 알고리즘을 종료하고, 최종 거리 D_min과 최적 상태 |Ψ_min⟩을 반환한다. D_min이 수치적으로 0이면 목표 p‑RDM이 엔셈블 N‑representable임을 증명한다. D_min이 0이 아닌 경우에도, 최적화된 pρ_k는 물리적으로 허용되는 가장 가까운 엔셈블 RDM을 제공하므로, 원래의 오류를 정정하는 역할을 수행한다.

구현 측면에서는 Jordan‑Wigner 변환을 통해 연산자 풀을 파울리 문자열로 매핑하고, OpenFermion·PySCF 기반 파이썬 코드를 사용해 무노이즈 시뮬레이터에서 실험을 수행하였다. 모델 시스템은 (4e,3o)·(4e,4o)와 같은 제한된 전자·오비탈 구성과, STO‑3G 기반 H₂·H₃ 분자를 포함한다. 1‑RDM과 2‑RDM에 대해 각각 Klyachko의 일반화 파울리 조건과 Coleman의 엔셈블 조건을 기준으로 검증했으며, 순수 ADAPT‑VQA와 새롭게 제안한 엔셈블 ADAPT‑VQA가 서로 보완적으로 작동함을 확인했다. 특히 (4e,4o) 모델에서 w=0.5(혼합 상태)인 경우, 순수 알고리즘은 비제로 거리(≈1.25×10⁻¹)를 보였지만 엔셈블 알고리즘은 거의 제로(≈2.45×10⁻⁹)로 수렴해 엔셈블 N‑representability를 정확히 판별했다.

이러한 결과는 (i) 엔셈블 RDM의 물리적 타당성을 양자 회로 수준에서 검증할 수 있음을, (ii) 기존 순수‑상태 검증 알고리즘에 최소한의 수정만으로 엔셈블 문제를 확장할 수 있음을, (iii) 오류가 포함된 RDM을 물리적으로 허용되는 형태로 정정함으로써 양자 시뮬레이션의 정확도를 향상시킬 수 있음을 시사한다. 또한, 온도 의존성을 포함한 열역학적 전자 상태를 다루는 thermo‑field 이론과도 자연스럽게 연결되며, 미래의 양자 화학 패키지에 직접 삽입 가능한 모듈형 프레임워크를 제공한다.