신뢰도 기반 전처리와 근사 퇴화 OSD로 양자 코드 디코딩 효율 극대화

초록

본 논문은 belief propagation(BP)에서 얻은 신뢰도 정보를 활용해 고신뢰 큐비트를 사전에 고정하고, 남은 변수에 대해 근사 퇴화 순서 통계 디코딩(ADOSD)을 적용한다. RSR은 문제 차원을 1 % 수준까지 축소하며, 고차 OSD를 실용적인 복잡도로 구현한다. 코드‑용량 및 회로‑레벨 잡음 모델에서 MWPM·LSD 등을 능가하는 오류 임계와 낮은 논리 오류율을 입증한다.

상세 분석

이 연구는 양자 오류 정정에서 가장 큰 병목 중 하나인 디코딩 복잡도를 두 단계로 나누어 해결한다. 첫 번째 단계인 Reliable Subset Reduction(RSR)은 BP4(쿼터너리 BP) 실행 중 각 변수의 하드‑디시전 변동성과 최종 소프트 베일리프의 확신도를 동시에 측정한다. 변동이 거의 없고 신뢰도가 높은 변수들을 ‘신뢰할 수 있는 집합’으로 정의하고, 이들을 고정함으로써 원래 2 n개의 변수와 n‑k개의 제약식이 존재하던 선형 시스템을 차원 n + k에서 크게 감소시킨다. 특히 물리 오류율 ε가 10⁻³ 수준일 때 전체 변수의 1 % 이하만 남아 고차 OSD를 적용할 수 있게 된다.

두 번째 단계는 OSD4와 ADOSD4이다. OSD4는 RSR이 남긴 불확실 변수들을 신뢰도 순으로 정렬하고, 기존 OSD와 동일하게 가우시안 소거 후 낮은 신뢰도 변수들을 플립해 후보 리스트를 만든다. 여기서 중요한 혁신은 ‘퇴화‑인식 가지치기’이다. 양자 코드에서는 동일한 코사트에 속하는 오류가 서로 다른 가중치를 가질 수 있는데, 이러한 경우 stabilizer에 해당하는 플립은 논리 오류를 일으키지 않으므로 후보 리스트에서 제외한다. 이 조건을 만족하면 고차 OSD를 수행할 필요가 없으며, 0‑order ADOSD만으로도 충분히 좋은 성능을 얻는다.

회로‑레벨 잡음에 대해서는 STIM으로부터 생성된 Detector Error Model(DEM)을 이진 형태로 변환하고, BP‑RSR‑ADOSD 파이프라인을 그대로 적용한다. 실험에서는 10⁴개 이상의 오류 변수와 10⁴‑10⁵ 규모의 LDPC·표면 코드에 대해 최대 10번의 BP 반복만으로도 높은 성공률을 보였다. 성능 면에서는 코드‑용량 모델에서 기존 MBP4·OSD 변형, 그리고 회로‑레벨 모델에서 MWPM·LSD 대비 논리 오류율을 10⁻⁶ 수준까지 낮추고, 임계값을 0.76 %까지 끌어올렸다.

복잡도 분석에 따르면 RSR 단계는 BP 메시지와 간단한 통계 연산만 필요해 O(n) 수준이며, 남은 변수에 대한 OSD는 차원 축소 덕분에 O(r³) (r은 남은 변수 수) 정도로 제한된다. 따라서 대규모 양자 코드에도 실시간 디코딩이 가능해진다. 한계점으로는 RSR의 신뢰도 임계값 선택이 코드와 잡음 수준에 따라 민감하게 변할 수 있다는 점과, 매우 높은 오류율에서는 신뢰할 변수 비율이 급감해 차원 축소 효과가 감소한다는 점을 들 수 있다. 전반적으로 BP와 통계‑기반 전처리를 결합한 이 접근법은 양자 LDPC·표면 코드 디코딩의 실용성을 크게 향상시킨다.