클래식에서 훈련, 양자에서 배포: 천 큐비트 규모 생성형 양자 머신러닝

초록

본 논문은 즉시 양자 다항식(IQP) 회로를 이용한 생성형 모델을 제안한다. MMD 손실을 파울리‑Z 기대값의 선형 조합으로 변환하고, 고전 시뮬레이션 알고리즘을 활용해 손실과 그 그래디언트를 효율적으로 계산한다. 학습은 고전 컴퓨터에서 수행되며, 훈련된 파라미터를 양자 하드웨어에 배포해 샘플링하면 고전적으로는 어려운 작업을 수행할 수 있다. 데이터‑종속 초기화와 MMD 기반 학습 덕분에 barren plateau 문제를 회피하고, 천 큐비트·수십만 파라미터 규모까지 확장한다. 실험 결과는 동일한 하이퍼파라미터 탐색 조건에서 고전 에너지 기반 모델과 경쟁하거나 우수한 성능을 보임을 확인한다.

상세 분석

이 연구는 변분 양자 회로(VQC)의 근본적인 확장성 한계, 특히 파라미터 수가 증가함에 따라 발생하는 barren plateau와 샘플링 비용 폭증 문제를 새로운 관점에서 해결한다. 핵심 아이디어는 IQP 회로가 갖는 두 가지 특성을 결합하는 것이다. 첫째, Rudolph 등(2024)이 제시한 바와 같이 최대 평균 차이(MMD) 손실은 파울리‑Z 연산자의 기대값들의 선형 결합으로 표현될 수 있다. 둘째, den Nest(2010)의 고전 시뮬레이션 기법은 IQP 회로의 파울리‑Z 기대값을 다항식 시간에 정확히 계산한다. 따라서 MMD 손실 자체를 고전 선형대수 연산으로 구현하면, 파라미터에 대한 자동 미분을 통해 그래디언트를 효율적으로 얻을 수 있다. 이는 기존 변분 방식에서 요구되는 수천·수만 번의 양자 회로 실행을 완전히 대체한다.

학습 단계에서는 데이터‑종속 파라미터 초기화 전략을 사용한다. 구체적으로, 두 큐비트 게이트의 회전 각을 훈련 데이터의 공분산에 비례하도록 설정함으로써 초기 파라미터가 이미 손실 표면의 유의미한 기울기를 갖도록 만든다. 이 접근법은 무작위 초기화 시 발생하는 barren plateau를 실질적으로 억제한다는 실험적 증거를 제공한다.

학습이 완료된 후에는 훈련된 파라미터 θ*를 양자 하드웨어에 그대로 옮겨 샘플링한다. IQP 회로는 고전적으로 샘플링이 #P‑hard(또는 그 상위 복잡도)로 알려져 있어, 양자 디바이스에서의 샘플링이 이론적으로 우월성을 가질 가능성이 있다. 논문은 이 점을 “train‑classical, deploy‑quantum” 패러다임으로 명명하고, 실제로 천 큐비트·수백만 게이트 규모까지 확장 가능한 구현을 JAX와 새로 개발한 IQPopt 패키지를 통해 시연한다.

실험에서는 이미지(예: MNIST), 합성 데이터, 그리고 유전체 데이터 등 다양한 고차원 비트스트링 데이터를 사용하였다. 모델 평가는 MMD와 커널 일반화 경험적 우도(Kernel‑GEL) 두 지표를 이용했으며, 동일한 하이퍼파라미터 탐색 비용을 가진 제한 볼츠만 머신(RBM)과 피드포워드 에너지 모델과 비교했다. 대부분의 경우 IQP 기반 모델이 동등하거나 더 나은 성능을 보였으며, 특히 큰 데이터셋에서 고전 모델이 모드 붕괴(mode collapse)나 불균형 문제에 직면하는 반면, 양자 모델은 이러한 현상을 완화한다는 점이 강조된다.

또한, 모델을 의도적으로 디코히런스(decohere)시켜 완전 고전 회로로 변환했을 때는 학습이 크게 악화되는 실험을 통해 양자 얽힘이 성능에 기여함을 실증한다. 마지막으로, 비트플립 대칭을 모델에 인코딩함으로써 특정 데이터셋의 편향을 반영하는 방법을 제시하고, 이러한 대칭 인코딩이 성능 향상에 기여함을 보였다.

이 논문은 (1) 고전 시뮬레이션 가능한 기대값을 이용한 효율적 손실 계산, (2) 데이터‑종속 초기화에 의한 barren plateau 회피, (3) 대규모 양자 회로를 실제 양자 하드웨어에 배포해 샘플링함으로써 잠재적 양자 우위 확보라는 세 축을 결합함으로써, 변분 양자 머신러닝의 확장성 문제에 실질적인 해결책을 제시한다.