오버컴플리트 QLDPC 코드 BP 디코딩에서 LLR 불일치의 규제 효과

초록

본 논문은 오버컴플리트(stabilizer) 표현을 사용하는 QLDPC 코드의 Belief Propagation(BP) 디코딩에서 초기 LLR(로그우도비) 불일치가 프레임 오류율(FER)에 미치는 영향을 조사한다. 실험 결과, 특히 저노이즈 영역에서 LLR를 실제 채널 파라미터와 다르게 설정하면 FER가 최대 두 자릿수까지 개선되며, 최적값이 좁게 국한되지 않고 넓은 범위에서 비슷한 성능을 보인다. 이를 통해 LLR 불일치를 정확한 채널 매칭이 아니라 디코딩 초기화의 정규화(regularization) 파라미터로 해석한다.

상세 분석

이 논문은 양자 저밀도 패리티 검사(QLDPC) 코드의 BP 디코더가 오버컴플리트(stabilizer) 그래프 위에서 동작할 때, 초기 LLR 값이 디코딩 동역학에 미치는 영향을 정량적으로 분석한다. 기존 연구에서는 OS(Overcomplete Stabilizer) 표현이 짧은 사이클, 특히 길이 4 사이클을 많이 포함해 메시지 전파가 트리 구조 가정을 깨뜨린다는 점을 강조했으며, 따라서 디코더 성능은 무한 반복 수가 아니라 제한된 반복 횟수 내에서의 동적 과정에 크게 좌우된다고 보았다.

본 연구는 두 종류의 BP 디코더, 즉 4진수 BP(BP4)와 이진 투영 BP(BP2)를 동일한 OS GB(126,28,126) 코드에 적용해 비교 실험을 수행한다. 채널은 독립적인 디포라라이징 채널이며, 실제 디포라라이징 확률 ε를 10⁻³~10⁻¹ 범위에서 샘플링한다. 디코더 초기화에 사용되는 LLR은 실제 채널 파라미터 ε와 동일하게 맞춘 경우(ε₀=ε)와, 고정된 값 ε₀=0.10으로 의도적으로 불일치시킨 경우를 대비한다.

실험 결과는 두 디코더 모두에서 LLR 불일치가 저노이즈(ε≈10⁻³) 영역에서 FER를 최대 100배(두 자릿수)까지 크게 감소시킴을 보여준다. 특히 반복 횟수 ℓₘₐₓ=4일 때 이러한 이득이 가장 두드러지며, ℓₘₐₓ=8로 늘리면 이 효과는 점차 감소한다. 이는 LLR 불일치가 메시지 포화와 피드백 루프 강화(특히 길이 4 사이클)를 조절해 초기 몇 번의 전파 단계에서 오류 정보를 보다 효과적으로 억제한다는 의미이다. 그러나 무한 반복에 수렴했을 때는 최적화된 LLR과 동일한 한계 성능에 도달하므로, 불일치가 궁극적인 디코딩 한계를 바꾸지는 않는다.

이러한 현상을 정량화하기 위해 저자들은 Aggregated Objective(AO) 함수를 제안한다. AO는 선택된 물리적 채널 확률 집합 G={ε₁,…,ε_T}에 대해 각 εₜ에서 측정된 FER(εₜ;L₀)을 가중 기하 평균으로 결합한다. FER이 0인 경우를 위해 보수적인 하한 x_min을 도입해 로그 도메인에서 J(L₀)=∑ wₜ·log₁₀(max{FER, x_min}) 형태로 정의한다. 이 지표는 LLR 불일치에 대한 전반적인 민감도를 하나의 스칼라 값으로 요약해, 최적 LLR 범위를 시각화하고 비교 실험에 일관된 기준을 제공한다.

결과적으로, LLR 불일치는 정확히 채널을 모델링해야 하는 전통적 관점과 달리, OS 그래프에서의 초기화 정규화 파라미터로 해석될 수 있다. 즉, 디코딩 구현 시 채널 파라미터를 과소/과대 추정해도 성능 저하가 크지 않으며, 오히려 의도적인 불일치를 통해 제한된 반복 횟수에서도 강인한 디코딩을 달성할 수 있다. 이는 실시간 양자 컴퓨팅 시스템에서 디코더 파라미터 튜닝을 간소화하고, 하드웨어 제한(반복 횟수, 전력 등) 하에서도 안정적인 오류 정정을 가능하게 한다는 실용적 의미를 가진다.