생성 모델로 양자 상태 재구성 실험 시연

초록

본 연구는 초전도 트랜스몬 큐비트 5개 배열에서 GHZ 및 무작위 양자 상태를 준비하고, 측정 데이터를 이용해 순환 신경망(RNN) 기반 생성 모델로 양자 상태를 복원한다. 실험 결과, 필요한 샘플 수가 시스템 규모에 대해 선형적으로 증가함을 확인했으며, 재구성된 상태의 클래식·양자 충실도가 각각 99 % 이상·95 % 수준에 도달했다. 이는 기존의 전통적 양자 상태 토모그래피(QST) 대비 측정 자원과 계산 복잡도가 크게 개선될 수 있음을 보여준다.

상세 분석

이 논문은 양자 상태 토모그래피(QST)의 근본적인 확장성 한계를 머신러닝, 특히 순환 신경망(RNN) 기반 생성 모델을 통해 극복하고자 한다. 기존 QST는 전체 힐베르트 공간 차원의 지수적 증가에 따라 측정 횟수와 메모리 요구량이 급격히 늘어나, 수십 개 큐비트 수준에서는 실용적이지 않다. 저자들은 이러한 문제를 “구조적 제한”이라는 물리적 관점에서 접근한다. 실제 실험에서 다루는 양자 상태는 무작위가 아니라 GHZ와 같은 고도로 얽힌 특수 상태 혹은 제한된 엔트로피를 가진 무작위 상태이며, 이는 낮은 차원의 매니폴드에 존재한다는 가정 하에 파라미터화된 모델을 설계한다.

구현된 RNN은 측정 결과의 시퀀스를 입력으로 받아 각 큐비트 위치별 숨겨진 상태를 전달함으로써 비국소적인 상관관계를 효율적으로 학습한다. 손실 함수는 실험에서 얻은 Pauli‑4 POVM 분포와 모델이 생성한 분포 사이의 Kullback‑Leibler(KL) 발산을 최소화하는 형태이며, 이는 확률 분포 자체를 직접 복원하는 방식이다. 따라서 밀도 행렬을 명시적으로 계산하지 않아도 된다. 실제 실험에서는 2~5 큐비트 GHZ 상태와 무작위 상태를 준비하고, 각각에 대해 10 %~30 % 수준의 측정 오류와 읽기 오류가 포함된 원시 데이터를 사용하였다.

학습 과정에서 클래식 충실도(F_C)와 양자 충실도(F_Q)를 별도로 평가했는데, F_C는 모델이 생성한 확률 분포와 실험 데이터 분포 간의 겹침 정도를 나타내며, 99 % 이상으로 빠르게 수렴한다. 반면 F_Q는 재구성된 밀도 행렬(최대우도 추정 후)과 실제 실험 밀도 행렬 사이의 트레이스 거리를 기반으로 계산되며, 약 95 % 수준에 머문다. 이는 양자 상태 자체의 노이즈와 모델이 포착하지 못하는 미세한 오류가 양자 충실도에 더 민감하게 작용함을 의미한다.

특히 저자들은 샘플 복잡도 분석을 통해 필요한 측정 횟수 N가 큐비트 수 N에 대해 선형적으로 증가한다는 사실을 실험적으로 입증했다. 이는 전통적인 QST가 요구하는 지수적 N와 명확히 대비된다. 또한, 학습된 RNN을 이용해 ⟨X_i X_j⟩, ⟨Z_i Z_j⟩와 같은 두-체 상관함수를 직접 계산했으며, 최대우도 보정 후 실험값과 거의 일치함을 보였다. 이는 생성 모델이 단순히 상태를 복원하는 수준을 넘어, 물리량 추정이라는 실용적인 작업에도 충분히 활용될 수 있음을 시사한다.

마지막으로, 무작위 상태에 대한 추가 실험에서도 동일한 선형 스케일링과 높은 클래식 충실도가 관찰되었으며, 이는 모델이 특정 구조(예: GHZ)에 국한되지 않고 일반적인 얽힌 상태에도 적용 가능함을 의미한다. 전체적으로 이 연구는 NISQ 시대에 제한된 측정 자원과 노이즈가 존재하는 실제 양자 디바이스를 효율적으로 검증·특성화할 수 있는 새로운 패러다임을 제시한다.