다중층 사이클 벤치마킹으로 고정밀 양자 오류 특성화

초록

본 논문은 기존 사이클 벤치마킹(CB)의 학습 제한을 극복하기 위해 다중층 사이클 벤치마킹(MLCB)을 제안한다. 여러 클리포드 게이트 레이어를 동시에 분석함으로써 효과적인 파울리 잡음 모델의 학습 가능한 자유도를 크게 늘리고, 실제 20큐빗 IQM Garnet 프로세서에서 최대 75%까지 학습 불가능한 자유도를 감소시켰다. 이를 통해 Sparse Pauli‑Lindblad 모델의 정확도가 향상되고, 확률적 오류 취소(PEC)와 같은 오류 완화 기법의 성능도 크게 개선된다.

상세 분석

본 연구는 양자 컴퓨팅에서 필수적인 잡음 특성화의 확장성을 확보하기 위해 파울리 잡음 모델의 학습 제한(learnability constraint)을 심도 있게 분석한다. 기존의 사이클 벤치마킹(CB)은 단일 클리포드 레이어에 대해 파울리 고유값(fβ)의 곱을 고정밀로 측정하지만, 게이지 자유도(gauge freedom) 때문에 전체 4ⁿ‑1 파울리 파라미터 중 2ⁿ‑c 개가 근본적으로 학습 불가능하다는 한계가 있다. 이 한계는 특히 대규모 QPU에서 병렬 실행되는 레이어의 상호작용을 정확히 파악해야 하는 상황에서 심각한 제약이 된다.

MLCB는 이러한 제약을 완화하기 위해 “다중 레이어” 접근법을 도입한다. 구체적으로, 서로 다른 클리포드 레이어 집합을 동시에 실행하고, 각 레이어에 대한 파울리 오빗(orbit) 정보를 결합함으로써 기존 CB에서 독립적으로 측정되지 않았던 파울리 고유값들의 상호관계를 추가적인 제약식으로 활용한다. 이 과정에서 파울리 트윌링(Pauli twirling)과 읽기-준비(SPAM) 보정이 그대로 적용되며, 다중 레이어 구조는 각 레이어의 오빗 집합이 겹치게 함으로써 고유값 곱의 중복을 최소화한다. 결과적으로, 학습 가능한 자유도(DOF)의 수가 크게 늘어나며, 실험적으로는 최대 75%까지 학습 불가능한 DOF가 감소한다는 것이 입증되었다.

논문은 또한 Sparse Pauli‑Lindblad(SPL) 모델과의 연계를 상세히 제시한다. SPL 모델은 파울리 문자열의 로컬성(w=2)과 저중량성을 가정해 파라미터 수를 O(n) 수준으로 축소한다. MLCB를 통해 얻어진 고정밀 파울리 고유값(또는 그 곱)들은 로그 변환 후 선형 시스템 M·λ = -½ log ξ 형태로 표현되며, 여기서 λ는 SPL의 리드블리언 파라미터이다. 학습 가능한 고유값이 충분히 확보되면 M의 랭크가 |K|에 도달해 비음수 최소제곱(NNLS)으로 λ를 정확히 복원할 수 있다. 이는 기존 CB가 제공하지 못했던 “전역적인” 파라미터 추정 능력을 의미한다.

MLCB가 제공하는 향상된 파라미터 정확도는 확률적 오류 취소(Probabilistic Error Cancellation, PEC)와 같은 오류 완화 기법에 직접적인 이득을 준다. PEC는 잡음 채널의 역채널을 확률적으로 구현하는데, 역채널을 구성하기 위해서는 잡음 파라미터의 정밀도가 필수적이다. MLCB 기반 SPL 파라미터를 사용하면 역채널의 가중치 w_k가 더 정확히 계산되어, 샘플링 비용이 감소하고, 최종 기대값의 바이어스가 현저히 낮아진다. 실험 결과는 MLCB‑기반 PEC가 동일한 샘플 수에서 약 30% 정도 더 낮은 평균 제곱 오차(MSE)를 달성함을 보여준다.

또한, MLCB는 기존의 저정밀 프로토콜(예: 단일 레이어 CB, ACES 등)과 비교했을 때 SPAM 오류에 대한 강인성, 곱의 멀티플리케이티브 정밀도, 그리고 레이어 간 상관관계 활용이라는 세 가지 측면에서 우수함을 입증한다. 특히, 레이어 간 상호작용을 고려한 오빗 결합은 “불가학습” 파라미터를 간접적으로 제한하는 새로운 형태의 게이지 고정(gauge fixing) 역할을 수행한다는 점이 혁신적이다.

마지막으로, 논문은 MLCB의 구현 복잡도가 기존 CB와 크게 다르지 않으며, 단순히 여러 레이어를 순차적으로 실행하고 결과를 통합하는 형태임을 강조한다. 따라서 현재의 양자 하드웨어와 실험 파이프라인에 손쉽게 적용 가능하고, 대규모 QPU에서도 확장 가능한 특성을 가진다.