연속 모니터링과 오토인코더 기반 클러스터링을 통한 비평형 양자 상전이 탐지

📝 Abstract

The characterization of collective behavior and nonequilibrium phase transitions in quantum systems is typically rooted in the analysis of suitable system observables, so-called order parameters. These observables might not be known a priori, but they may in principle be identified through analyzing the quantum state of the system. Experimentally, this can be particularly demanding as estimating quantum states and expectation values of quantum observables requires a large number of projective measurements. However, open quantum systems can be probed in situ by monitoring their output, e.g. via heterodyne-detection or photon-counting experiments, which provide space-time resolved information about their dynamics. Building on this, we present a machine-learning approach to detect nonequilibrium phase transitions from the measurement time-records of continuously-monitored quantum systems. We benchmark our method using the quantum contact process, a model featuring an absorbing-state phase transition, which constitutes a particularly challenging test case for the quantum simulation of nonequilibrium processes.

💡 Analysis

**

1. 연구 배경 및 필요성

   • 전통적인 양자 상전이 연구는 기대값, 엔탱글먼트, 상관함수 등 명시적인 물리량을 기반으로 한다. 하지만 실험에서 이러한 물리량을 얻기 위해서는 다중 실험·투사 측정·양자 상태 토모그래피가 필수이며, 특히 비평형 상황에서는 시간‑의존적인 데이터가 방대해져 측정 비용이 급증한다.
   • 연속 모니터링(heterodyne detection, photon‑counting)은 시스템이 방출하는 신호를 실시간으로 기록하므로, 별도의 상태 재준비 없이도 풍부한 공간‑시간 정보를 제공한다. 다만, 이 신호는 노이즈가 강하고 직접적인 오더 파라미터와의 연관성이 명확하지 않다.

2. 핵심 아이디어

   • 오토인코더: 고차원(시간·공간) 궤적을 저차원(2‑D) 잠재공간으로 압축하면서 핵심 특징을 자동으로 학습한다.
   • 가우시안 혼합 모델(GMM): 잠재공간에 존재하는 두 개의 군집(흡수 위상, 활성 위상)을 확률적으로 구분한다. 이는 “soft assignment”를 제공해 경계 근처의 불확실성을 정량화한다.
   • 전체 파이프라인: (i) 양자 궤적 생성 → (ii) 오토인코더 학습 → (iii) 잠재공간 클러스터링 → (iv) 위상 라벨링 및 임계점 추정.

3. 벤치마크 모델 – 양자 접촉 과정

   • 모델 특징: 1차원 격자에 두 레벨(활성/비활성) 사이트가 존재하고, 인접한 활성 사이트가 있을 때만 라비 진동(Ω)으로 전이가 일어난다. 흡수 상태(|0⟩)는 일단 도달하면 탈출 불가능한 고정점이며, Ω/γ 비율이 충분히 크면 활성 위상이 유지된다.
   • 실험적 어려움: 흡수 상태는 유한 시스템에서 언제든 도달하므로, 정적 오더 파라미터(활성 사이트 밀도)만으로는 임계 현상을 포착하기 어렵다. 따라서 전체 시간 흐름을 포함한 궤적이 필요하다.

4. 데이터 생성 및 전처리

   • 텐서 네트워크(MPS) + TEBD: 30 사이트, γt=10, dt=0.05, bond 차원 χ=200으로 충분히 수렴된 궤적을 확보.
   • 두 종류의 궤적: (a) 직접적인 오더 파라미터 S_k(t) = ⟨n_k⟩ (실험적으로는 접근 어려움) → (b) 이질형 이터레이트 전류 O_k(t) (실제 측정 가능).
   • 노이즈 완화: O_k(t)의 절대값을 짧은 윈도우(1/(2γ)) 평균하여 입력으로 사용, 이는 신호‑대‑노이즈 비를 약간 개선한다.

5. 머신러닝 구현 세부

   • 오토인코더 구조: 1‑D 컨볼루션 레이어 → 풀링 → 완전 연결(잠재 차원 2) → 디코더(역컨볼루션). 1‑D 잠재공간은 충분히 구분되지 않아 2‑D를 선택, 이는 복합적인 시간‑공간 패턴을 포착하기 위함.
   • 학습 데이터: Ω/γ = 1~10 정수값에서 각각 1000 궤적(총 10,000) 사용, 교차 검증 없이 전체 데이터로 학습 후 고정.
   • 클러스터링: GMM(2 컴포넌트)으로 잠재공간을 두 군집으로 분리, 각 궤적에 대해 “활성 위상” 확률 p_AE를 산출.

6. 결과 및 물리적 해석

   • 오더 파라미터 궤적(S_k) 사용: 잠재공간에 색상 그라데이션이 뚜렷히 나타나며, 임계점이 Ω/γ ≈ 5.8±0.3 (β≈0.33)으로 기존 수치 결과(5.9~7)와 일치.
   • 이질형 전류(O_k) 사용: 노이즈가 심함에도 불구하고 잠재공간에서 두 군집이 명확히 구분되고, 임계점이 Ω/γ ≈ 5.6~6.2 범위에 위치. 이는 “노이즈가 많은 실험 데이터”에서도 유의미한 위상 구분이 가능함을 증명한다.
   • 임계 지수 재현: p_AE ∝ (Ω/γ - (Ω/γ)_c)^β 형태의 파워‑로우 피팅을 통해 β≈0.33을 얻었으며, 이는 이론적 기대값(≈1/3)과 일치한다.

7. 강점

   • 관측량 독립성: 사전 정의된 오더 파라미터 없이도 위상 전이를 탐지한다는 점에서 실험적 적용성이 높다.
   • 시간‑공간 정보 활용: 전체 궤적을 입력으로 사용함으로써 정적 평균값이 무의미한 경우에도 임계 현상을 포착한다.
   • 비지도 학습: 라벨이 없는 데이터에서도 군집화를 통해 위상을 구분할 수 있다.

8. 제한점 및 개선 가능성

   • 데이터 규모: 현재는 시뮬레이션 기반 10,000 궤적으로 학습했지만, 실제 실험에서는 데이터 수집 비용이 존재한다. 데이터 효율성을 높이기 위한 전이 학습(transfer learning)이나 데이터 증강이 필요할 수 있다.
   • 노이즈 모델링: 현재는 단순히 절대값 평균을 사용했지만, 실제 검출기 노이즈(전기적, 양자 효율 등)와 비선형 왜곡을 포함한 더 정교한 전처리가 필요하다.
   • 잠재 차원 해석: 2‑D 잠재공간이 물리적 의미(예: 두 개의 독립적인 “effective order parameters”)와 연결되는지 추가 분석이 요구된다.
   • 다중 위상 및 고차원 군집: 현재는 두 위상만을 고려했지만, 복합적인 비평형 현상(예: 다중 흡수 상태, 시간‑결정적 혼돈)에서는 군집 수를 늘려야 할 가능성이 있다.

9. 향후 연구 방향

   • 실험 적용: 초전도 큐비트 어시라, 트apped 이온, Rydberg 원자 어레이 등에서 실제 이질형 측정 데이터를 수집하고 동일 파이프라인을 적용해 검증.
   • 다중 모달 데이터: 이질형 전류 외에 광자 계수, 스펙트럼 정보 등을 동시에 입력해 멀티채널 오토인코더 설계.
   • 동적 임계 현상 탐지: 시간‑의존적인 임계점(예: 퀀텀 퀴크스 전이)이나 급변 현상을 실시간으로 감지하는 온라인 학습 모델 개발.
   • 물리‑기반 정규화: 오토인코더 손실 함수에 물리적 제약(예: 보존 법칙, 양자 마스터 방정식) 을 포함해 학습 효율과 해석 가능성을 향상.

**

📄 Content

서론
비평형 상태에 있는 다체 양자 시스템은 복잡한 집합적 행동과 상전이를 나타낼 수 있다[1‑12]. 이러한 현상의 분석은 일반적으로 임계점 근처에서 시스템 상태가 급격히 변함을 포착하는 **오더 파라미터(order parameter)**라 불리는 적절한 관측량을 식별하는 데 기반한다. 따라서 이들 현상의 특성화는 본질적으로 차원 축소(dimensional reduction)에 의존한다. 집합적 효과와 보편적 특성은 단일 양의 거동만으로 완전히 기술될 수 있기 때문이다. 이론적인 관점에서 오더 파라미터는 시스템 관측량의 기대값을 계산하거나, 얽힘·양자 상관과 같이 양자 상태의 보다 복잡한 특성을 고려함으로써 얻을 수 있다. 그러나 이러한 양을 실험적으로 측정하려면 상태를 반복적으로 준비하고 투사 측정을 수행해야 하며, 가장 극단적인 경우 전체 양자 상태 토모그래피(full quantum state tomography)를 수행해야 하는 등 상당한 오버헤드가 수반된다.

연속적으로 모니터링되는 개방 양자 시스템은 환경으로 정보를 방출하고, 이 정보를 현장에서 실시간으로 감시하고 처리할 수 있다. 이러한 시공간 해상도 정보를 얻는 방법으로는 헤테로다인(heterodyne) 혹은 광자 계수(photon‑counting) 측정[13‑16], 디지털 양자 시뮬레이터[17‑24], 혹은 보조 입자(ancilla)를 이용한 측정 스킴[25,26]이 있다. 투사 측정과 달리 연속 모니터링은 시스템의 상태를 파괴하지 않는다. 오히려 **양자 궤적(quantum trajectories)**이라 불리는 연속적인 동역학 정보를 제공하며[15,27], 이는 반복적인 상태 준비, 앙상블 평균, 혹은 포스트셀렉션(post‑selection) 없이도 실험적으로 접근 가능하다. 시공간 정보를 담은 양자 궤적은 동적 상을 구분하고 상전이점을 정확히 찾아낼 수 있는 가능성을 제공한다.

본 연구에서는 머신러닝 기반 접근법을 도입한다. 이 방법은 양자 궤적의 구조로부터 개방 양자 시스템의 집합적 특성을 학습한다. 출력 신호가 시스템 관측량이나 오더 파라미터와 직접적인 연관이 없더라도, 신경망이 서로 다른 상을 구별할 수 있도록 충분한 정보를 내포하고 있음을 보인다. 구체적으로, 고차원 시공간 해상도 양자 궤적을 비지도 학습(unsupervised learning) 프레임워크에 입력하여 저차원 잠재 공간(latent space)으로 매핑한다. 이 과정에서 궤적은 그들이 속한 동적 상에 따라 군집(cluster)화된다(그림 2 참고). 이렇게 함으로써 머신러닝이 차원 축소와 효과적인 오더 파라미터 추출을 자연스럽게 수행하게 된다. 사전에 정의된 시스템 관측량에 의존하지 않고도 복잡한 데이터셋에서 임계 현상의 징후를 감지할 수 있다[28‑31].

**양자 접촉 과정(quantum contact process)**을 사례 연구로 삼고, 텐서 네트워크를 이용해 헤테로다인 측정 양자 궤적을 합성적으로 생성한다. 이 모델은 1차원에서도 비평형 상전이—흡수 상(absorbing phase)과 활성 상(active phase) 사이의 전이—를 보이며, 흡수 상의 존재는 모델을 실험적으로 매우 어려운 벤치마크 문제로 만든다[34,36]. 기존 연구에서는 머신러닝이 보스‑하버드(Bose‑Hubbard) 양자 시뮬레이터의 상을 식별하거나[37‑40] 양자 접촉 과정 자체를 분석하는 데 활용되었지만[35], 그때는 오더 파라미터와 직접 연결되는 관측량(밀도·밀도‑밀도 상관)만을 사용했다. 반면 본 접근법은 출력 신호 전체 시공간 기록을 활용한다. 이 기록은 오더 파라미터와 명시적인 연관이 없어 보이지만, 실제로는 상전이를 감지하는 데 충분히 유용하다.

연속적으로 모니터링되는 개방 양자 시스템

그림 1에 나타난 설정을 고려한다. 여기서는 개방 양자 시스템의 전자기장 출력이 연속적으로 감시된다. 본 논문에서는 **헤테로다인 검출(heterodyne detection)**에 초점을 맞춘다. 이는 아래 모델에서 광자 계수가 오더 파라미터와 직접 연결될 수 있기 때문이다. 시스템 상태의 확률적 진화는

[ \mathrm{d}|\psi\rangle = \Bigl[-i H_{\text{eff}},\mathrm{d}t

• \sum_{k=1}^{N}\bigl(L_k-\langle L_k\rangle\bigr),\mathrm{d}\xi_k\Bigr]|\psi\rangle \tag{1} ]

와 같이 표현된다. 여기서 (N)은 다체 시스템을 이루는 서브시스템(사이트)의 수이며, 모든 사이트가 독립적으로 모니터링된다(그림 1 참고). (L_k)는 점프 연산자(jump operator)로, 측정 과정이 시스템 동역학에 미치는 영향을 기술한다. (\langle L_k\rangle = \langle\psi|L_k|\psi\rangle)이며, (H_{\text{eff}} = H - \frac{i}{2}\sum_k L_k^\dagger L_k)는 결정론적 부분을 담당하는 유효 해밀토니안을 의미한다. 잡음 항은 독립적인 복소 위너 증분 ({d\xi_k})에 비례하고, Ito 규칙을 만족한다[27].

식(1)의 각 실현(realization)은 **복소 헤테로다인 광전류(complex heterodyne photocurrent)**의 시공간 기록

[ J(t) = \sum_{k=1}^{N}\bigl(L_k+\langle L_k\rangle\bigr) + \text{noise} \tag{4} ]

을 만든다. 서로 다른 실현을 평균하면 시스템의 앙상블 평균 상태 (\rho = \mathbb{E}[|\psi\rangle\langle\psi|])를 얻으며, 이는 Lindblad 형태의 마스터 방정식

[ \dot\rho = -i[H,\rho] + \sum_k\Bigl(L_k\rho L_k^\dagger

• \tfrac12{L_k^\dagger L_k,\rho}\Bigr) \tag{5} ]

에 의해 기술된다. 첫 번째 항은 양자 코히런트(coherent) 기여를, 두 번째 항은 모니터링 과정의 평균 효과를 나타낸다.

관측량 (\langle A\rangle = \operatorname{Tr}(\rho A))의 기대값을 얻으려면 여러 번의 투사 측정이 필요하지만, 헤테로다인 궤적—연속 모니터링 과정의 시공간 해상도 출력—은 단일 실험 동안 바로 접근 가능하다.

양자 접촉 과정

모델은 (N)개의 두 수준 시스템으로 구성된다. 각 사이트는 활성(active) 상태 (|\bullet\rangle)와 비활성(inactive) 상태 (|\circ\rangle) 중 하나를 가진다. 점프 연산자는

[ L_k = \sqrt{\gamma},\sigma^-_k,\qquad \sigma^-_k = |\circ\rangle_k\langle\bullet| ]

이며, (\gamma)는 모니터링 비율이다. 코히런트 동역학은

[ H = \Omega \sum_{k=1}^{N}\bigl(\sigma^+k P{k-1}+ \sigma^+k P{k+1}\bigr) + \text{h.c.} \tag{6} ]

와 같이 정의된다. 여기서 (\sigma^+k = |\bullet\rangle_k\langle\circ|)는 비활성→활성 전이를, (P{k\pm1})는 인접 사이트가 활성 상태인지 여부를 나타내는 투사 연산자이다. 즉, 인접한 사이트 중 하나가 활성일 때만 해당 사이트에서 라비 진동(Rabi oscillation)이 일어난다[32,33,44].

이 규칙들 때문에 시스템은 흡수 상태(absorbing state) (|0\rangle = \bigotimes_{k=1}^{N}|\circ\rangle_k)를 갖는다. 한 번 도달하면 더 이상 탈출할 수 없으며, 유한한 (N)에서는 결국 이 상태에 수렴한다. 그러나 (N\to\infty)이고 (\Omega/\gamma)가 충분히 크면 활성 상(active phase)—활성 사이트의 유한한 밀도—가 지속된다[1,32]. 이 비평형 전이는 2차 상전이(second‑order)로 추정되며, 대규모 수치 시뮬레이션에서도 확인되었다[34].

오더 파라미터는 활성 사이트의 지역 밀도 (\langle n_k\rangle)이다. 하지만 흡수 상태가 장기적으로 반드시 도달하기 때문에, 정상 상태에서의 오더 파라미터는 의미가 없으며 임계 현상을 정상 상태 특성만으로는 파악할 수 없다. 따라서 우리는 시공간 해상도 헤테로다인 궤적을 분석한다. 이 궤적은 오더 파라미터와 직접적인 연관이 없고 잡음에 취약하지만, 적절한 데이터 처리와 머신러닝을 통해 유용한 정보를 추출할 수 있다.

데이터 생성

양자 궤적은 행렬곱 상태(matrix product states, MPS)와 시간‑진화 블록 디케이(TEBD) 알고리즘을 이용해 시뮬레이션한다[45,46]. 구체적으로는 단일 궤적에 대해 파동함수 (|\psi\rangle)를 MPS 형태로 표현한다. 모든 시뮬레이션에서 (N=30) 사이트, 최대 시간 (\gamma t = 10), 시간 간격 (\gamma\Delta t = 0.05)를 사용하였다. (\Omega/\gamma)는 정수값 ({1,2,\dots,10})으로 체계적으로 변화시켰으며, 초기 상태는 완전 활성 상태 (|\psi_0\rangle = \bigotimes_{k=1}^{N}|\bullet\rangle_k)를 선택했다. TEBD의 정확도는 결합 차원(bond dimension) (\chi)에 의해 제어되며, 여기서는 (\chi = 200)을 사용해 수렴된 데이터를 얻었다.

두 종류의 궤적을 계산하였다.

1. 지역 밀도 궤적 (S_k(t)=\langle\psi|n_k|\psi\rangle) (그림 1에서 ‘S’ 라벨).
2. 헤테로다인 궤적 (O_k(t)) = 식(4)의 복소 광전류 실현 (그림 1에서 ‘O’ 라벨).

(S_k(t))는 이론적으로

이 글은 AI가 자동 번역 및 요약한 내용입니다.