양자 회로 파라미터 학습으로 위상 전이 자동 탐지

초록

본 논문은 VQE 최적화 과정에서 얻어진 회로 파라미터들을 직접 입력으로 사용해, 관측값 없이도 양자 위상 전이를 무감독 학습으로 식별하는 프레임워크를 제안한다. 주목 메커니즘을 결합한 변분 오토인코더(VAE)를 통해 파라미터들의 숨겨진 상관관계를 압축된 잠재공간에 매핑하고, 이 공간에서 군집화와 일반화된 순서 매개변수를 추출한다. TFIM 및 클러스터‑아이징 모델 등 다양한 시스템에 적용해, 특히 위상적 전이에서도 높은 정확도를 보이며, VQE가 지역 최소에 수렴해도 견고함을 입증한다.

상세 분석

이 연구는 양자 다체 시스템의 위상 전이를 탐지하기 위해 전통적인 물리량 측정 대신 VQE(Variational Quantum Eigensolver) 최적화 과정에서 얻어지는 회로 파라미터 θ∗(x)를 직접 학습 데이터로 활용한다는 혁신적인 접근법을 제시한다. 핵심 아이디어는 동일한 초기 파라미터 θ_initial에서 물리적 파라미터 x가 달라짐에 따라 최적화 경로가 서로 다른 지역 최소점에 도달한다는 점이다. 따라서 서로 다른 위상에 속하는 x는 파라미터 공간에서 서로 구분되는 클러스터를 형성한다는 가정 하에, 고차원 파라미터 데이터를 비선형 차원 축소와 군집화를 수행할 수 있는 딥러닝 모델을 설계한다.

모델 아키텍처는 크게 세 부분으로 구성된다. 첫 번째는 1‑D 컨볼루션 신경망(CNN)으로, 파라미터 시퀀스의 지역적 연관성을 추출한다. 이는 양자 회로에서 인접 게이트가 물리적으로 연관된 연산을 수행한다는 점을 반영한다. 두 번째는 멀티‑헤드 셀프‑어텐션(MHSA) 레이어로, CNN이 포착하지 못하는 비국소적 상관관계를 전역적으로 모델링한다. 어텐션 메커니즘은 Q‑K‑V 변환을 통해 모든 파라미터 위치 간의 가중합을 계산함으로써, 멀티‑큐비트 얽힘 구조를 암시적으로 학습한다. 세 번째는 변분 오토인코더(VAE) 구조로, 인코더는 CNN‑MHSA‑MLP 파이프라인을 거쳐 평균 μ와 로그 분산 log σ²를 출력하고, 재파라미터화 트릭을 이용해 잠재 변수 z를 샘플링한다. 디코더는 역 CNN과 MLP를 통해 원본 파라미터 θ̂를 복원한다. 손실 함수는 재구성 MSE와 KL 발산을 가중치 β로 조절한 ELBO 형태이며, 이는 파라미터의 평균 구성을 잠재공간에 압축하도록 유도한다.

학습된 잠재공간은 차원 축소(PCA, t‑SNE)와 가우시안 혼합 모델(GMM) 등 전통적인 군집화 기법과 결합해 위상 구분에 사용된다. 실험에서는 Transverse‑Field Ising Model(TFIM)과 Cluster‑Ising Model에 대해 다양한 VQE ansatz(하드웨어 효율적, 하이브리드 등)를 적용했으며, 파라미터 클러스터링이 알려진 임계점과 일치함을 확인했다. 특히 위상적 전이에서는 전통적인 로컬 순서 매개변수가 무의미한 상황에서도, 잠재공간의 군집 경계가 정확히 위상 전이를 포착했다. 또한 VQE가 지역 최소에 머물러도 파라미터 분포의 차이가 충분히 뚜렷해, 모델이 강인함을 보였다.

이 프레임워크는 양자 회로 파라미터 자체를 “클래스ical representation”으로 전환함으로써, 양자 상태 재구성 없이도 위상 정보를 추출할 수 있다. 이는 NISQ 디바이스에서 측정 비용을 크게 절감하고, 베리어리즘(바리어)와 같은 최적화 장애에 대한 내성을 제공한다. 향후 확장 가능성으로는 파라미터 공간에 대한 베이시안 추론, 다중 물리 파라미터(예: 압력, 온도)와의 연계, 그리고 생성 모델을 통한 특정 위상에 해당하는 새로운 양자 회로 설계 등이 있다.