확장 가능한 양자 오류 정정 테스트

초록

본 논문은 양자 오류 정정(QEC) 벤치마크를 위한 기존의 무작위 결함 주입 방식이 물리적 오류율이 낮은 경우 거리(d) 10 이상에서 급격히 비효율적임을 지적하고, 고중량 결함 샘플만을 효율적으로 추출한 뒤 통계적 외삽을 이용해 논리 오류율을 추정하는 ScaLER(Scalable Logical Error Rate Testing) 기법을 제안한다. 실험 결과, 물리 오류율 0.0005에서 거리 17까지 두 시간 내에 논리 오류율 1.51×10⁻¹¹을 고신뢰도로 추정한다.

상세 분석

이 논문은 양자 오류 정정(QEC) 알고리즘의 성능을 평가하기 위해 필수적인 논리 오류율 추정 문제를 새로운 관점에서 접근한다. 기존 도구인 Stim은 무작위 결함 주입을 통해 모든 가능한 오류 가중치(weight)를 균등하게 샘플링하지만, 물리적 오류율이 낮고 코드 거리가 커질수록 낮은 가중치 샘플에서 논리 오류가 거의 발생하지 않아 통계적 신뢰도를 확보하려면 천문학적인 샘플 수가 필요하다. 저자들은 이러한 비효율성을 ‘고가중치 샘플만을 집중적으로 탐색하고, 저가중치 영역은 확률 모델을 이용해 외삽한다’는 전략으로 해결한다. 핵심 아이디어는 오류 가중치 w에 대해 논리 오류율 P₍w₎ᶫ을 직접 측정하고, 물리적 오류율 p와 회로 위치 수 C를 이용해 w개의 결함이 발생할 확률을 이항분포 형태로 정확히 계산한다(식 4). 이렇게 하면 전체 논리 오류율 Pᴸ는 Σ₍w₎ P₍w₎ᶫ·Binomial(C,w,p) 형태로 합산될 수 있다.

ScaLER는 먼저 ‘저가중치’(w ≤ (d‑1)/2) 영역은 이론적으로 오류가 0임을 이용해 제외하고, ‘고가중치’ 영역을 샘플링한다. 고가중치 샘플은 논리 오류가 자주 발생하므로 상대적으로 적은 시뮬레이션으로도 충분히 통계적 신뢰도를 확보한다. 저가중치 영역에 대한 추정은 앞서 정의한 확률 모델과 고가중치에서 얻은 P₍w₎ᶫ 값을 이용해 S‑curve 형태의 연속 함수로 피팅한다. 저자는 기존 IBM의 Min‑Fail Envelope 모델을 개선해, 가중치 w = t (t = (d‑1)/2)에서 정확히 0이 되도록 분모에 특수 항을 삽입한 새로운 S‑curve 함수를 제안한다. 이 함수는 두 번째 미분이 양에서 음으로 바뀌는 S‑형태를 유지하면서, 고가중치 데이터에 대한 과적합을 방지한다.

실험에서는 표면 코드(surface code)를 중심으로 거리 d = 7, 13, 17에 대해 물리적 오류율 p = 5×10⁻⁴와 p = 1×10⁻⁴을 사용했다. Stim은 d = 13, p = 5×10⁻⁴에서 두 시간 동안 논리 오류를 전혀 관측하지 못해 0이라는 잘못된 추정값을 내놓았다. 반면 ScaLER는 동일 시간 예산 내에 고가중치 샘플을 충분히 수집하고, S‑curve 외삽을 통해 전체 논리 오류율을 1.51×10⁻¹¹(신뢰 구간 95% 내)으로 정확히 추정했다. 또한 다양한 코드(토릭 코드, BB 코드)와 거리에서도 동일한 S‑curve 형태가 관찰되어 모델의 일반성이 입증되었다.

위협 요인으로는 오류 모델의 독립성 가정, 회로 규모가 커질수록 발생 가능한 결함 조합의 수학적 복잡성, 그리고 외삽 함수 선택에 따른 편향이 있다. 저자는 이러한 한계를 완화하기 위해 다중 오류 모델(예: 상관 Pauli 오류)와 더 정교한 베이지안 외삽 기법을 향후 연구 과제로 제시한다.

결론적으로, ScaLER는 고가중치 결함 샘플링과 확률적 외삽을 결합함으로써 기존 무작위 결함 주입 방식의 시간 복잡도를 지수적으로 감소시켰으며, 물리적 오류율이 낮은 차세대 양자 하드웨어에 대한 실용적인 벤치마크 도구로 자리매김할 가능성을 보여준다.