변분 양자 고유값 해법을 이용한 횡자장 이징 모델의 얽힘 및 앙사츠 표현력 연구

초록

본 논문은 변분 양자 고유값 해법(VQE)을 활용해 1·2·3차원 횡자장 이징 모델(TFIM)의 기저 상태를 재현하고, EfficientSU2(HEA), Hamiltonian Variational Ansatz(HVA) 및 대칭 파괴형 HVA(HVA‑SB) 세 가지 앙사츠의 표현력, 최적화 난이도, 에너지 분산, 얽힘 엔트로피, 스핀 상관 등을 비교한다. 결과는 HEA가 높은 표현력을 보이지만 최적화가 느리고, HVA‑SB가 대칭 파괴를 통해 저엔트로피 영역을 잘 포착한다는 점을 보여준다.

상세 분석

논문은 먼저 VQE의 두 기본 가정, 즉 선택한 파라메트릭 양자 회로(PQC)가 실제 기저 상태를 충분히 표현할 수 있는가와 고전 최적화 알고리즘이 전역 최소값에 도달할 수 있는가를 명시한다. 이를 검증하기 위해 TFIM을 실험대상으로 삼았으며, Jz = −1, 주기적 경계조건을 유지하면서 h x의 값을 변화시켜 양자 상전이 전후의 얽힘 특성을 탐색한다. 세 종류의 앙사츠는 다음과 같이 정의된다. (1) HEA(EfficientSU2)는 Qiskit에 내장된 하드웨어 효율형 회로로, 단일·이중 큐비트 게이트와 RY, RZ 회전을 층별로 배치해 파라메터 수가 시스템 규모에 비례한다. (2) HVA는 TFIM 해밀토니안을 Trotter‑분해한 형태로, ZZ 결합 게이트와 X‑축 회전(Rx)만을 사용해 물리적 구조를 그대로 반영한다. (3) HVA‑SB는 HVA에 추가적인 Rz 레이어를 삽입해 Z2 대칭을 인위적으로 깨고, 근접하게 퇴화된 두 기저 상태 사이의 오버랩을 허용한다. 표현력 평가는 프레임 포텐셜(Ft)으로 수행했으며, 10⁴개의 무작위 파라메터 샘플에서 얻은 ⟨ψ|ϕ⟩² 분포를 히스토그램으로 나타냈다. HEA가 가장 낮은 프레임 포텐셜 값을 보여 가장 균등한 상태 집합을 생성함을 확인했다. 최적화 측면에서는 L‑BFGS가 부드러운 손실 지형을 가진 HEA에 적용됐고, HVA와 HVA‑SB는 비미분형 COBYLA를 사용했다. 깊이 4, 8, 10, 15 레이어를 각각 실험했으며, 깊이가 증가할수록 HEA는 점진적 에너지 개선을 보였지만, HVA와 HVA‑SB는 특정 깊이에서 급격히 정확도가 상승하는 ‘전이’ 현상을 보였다. 이는 HVA가 물리적 서브스페이스에 제한돼 초기에는 탐색 범위가 좁지만, 충분한 깊이에 도달하면 정확한 기저 상태에 수렴한다는 의미이다. 대칭 파괴 레이어는 저엔트로피(강한 h x) 영역에서 HVA가 놓치는 상태를 보완해 에너지 분산을 감소시키고, 스핀 상관과 얽힘 엔트로피의 급격한 변화를 재현한다. 1D 10‑큐비트 시스템에서 HVA‑SB는 저필드에서 EE≈1(ln 2 단위) 를, HEA와 HVA는 과소평가된 EE 값을 보였으며, 이는 제한된 얽힘 전파 능력 때문임을 지적한다. 2D 4×4 격자에서는 최적화 불안정성이 크게 증가했으며, 특히 HVA는 저엔트로피 영역에서 성능이 급격히 저하되었다. 반면 HEA는 전반적으로 에너지 정확도가 유지되지만 얽힘은 여전히 과소평가된다. 3D에서는 실험적으로 실시간 파라메터 초기화를 통해 최적화 시간을 크게 단축했으며, Rz를 제거한 실수 진폭 앙사츠가 파라메터 수를 감소시켜 안정적인 수렴을 가능하게 했다. 전반적으로, 논문은 ‘표현력 vs 최적화 안정성’이라는 트레이드오프를 명확히 제시하고, 대칭 파괴가 퇴화된 기저 상태 접근에 필수적임을 강조한다. 향후 적응형 앙사츠와 머신러닝 기반 최적화기의 도입이 제시된 제한을 극복할 수 있는 방향으로 제안된다.