유한기하 LDPC 코드의 하이브리드 디코딩 설계

본 논문은 유한기하(FG) 저밀도 패리티 검사(LDPC) 코드의 디코딩 복잡성을 감소시키기 위한 새로운 하이브리드 디코딩 방식을 제안한다. FG‑LDPC 코드는 행·열 가중치가 매우 높아 전통적인 신뢰도 전파(BP) 혹은 미니섬(MS) 알고리즘을 적용하면 연산량이 급격히 증가한다. 이를 해결하고자 저복잡도 비트플리핑(BF) 변형과 고성능 MS 변형을 순차적으로 연결하는 두 단계 구조를 설계하였다. 첫 번째 단계인 BF 디코더에서는 기존 연구(LP‑WBF, SZ‑WBF, LZ‑WBF, WZ‑WBF 등)의 아이디어를 종합해 LF‑WBF(Limited‑Flip WBF)라는 새로운 병렬 비트플리핑 알고리즘을 도입한다. LF‑WBF는 수신 심볼의 절대값을 기준으로 신뢰도 임계값 T를 설정하고, |y_i| > T인 비트를 ‘신뢰함’으로, 그 이하를 ‘불신뢰함’으로 구분한다. 이후 각 체크 노드에서 불신뢰 비트에 대해 최소 플리핑 함수값을 가진 비트를 찾아 플리핑 신호를 누적(b_i)하고, 누적값이 사전 정의된 임계값 α2를 초과하면 해당 비트를 플립 후보에 올린다. 동시에 신뢰도가 높은 비트에 대해서는 지연 카운터(a_i)를 증가시켜, a_i가 α3에 도달하면 플립하도록 함으로써 과도한 플립으로 인한 오류 전파를 방지한다. 이 과정은 한 번의 반복(iteration) 안에 다수 비트를 동시에 플립할 수 있어, 기존의 직렬 BF 방식보다 수렴 속도가 크게 향상된다. 두 번째 단계는 미니섬(MS) 변형 디코더이다. 여기서는 정규화 미니섬(NMS), 오프셋 미니섬(OMS)뿐 아니라, 논문에서 제안한 NAB(Normalized APP‑Based) 알고리즘을 사용한다. MS 계열은 체크 노드에서 tanh 함수를 최소값·부호 연산으로 근사함으로써 복잡도를 크게 낮춘다. NAB는 변수 노드에서의 메시지 합산을 단순히 LLR 초기값과 체크 노드에서 전달된 최소값들의 합으로 근사해, NMS와 거의 동등한 성능을 제공한다. 파라미터 최적화는 차별 진화(DE) 알고리즘을 활용한다. LF‑WBF의 α1, α2, α3, β1, β4와 MS 변형의 β5(스케일링)·β6(오프셋)를 각각 채널 잡음 분산(σ²)에 맞추어 최적화했으며, 최적값은 표 I·II에 제시된다. 최적 파라미터는 SNR 구간에 크게 민감하지 않아, 실제 시스템에서 사전 학습 없이도 일정 수준의 성능을 유지할 수 있다. 시뮬레이션은 두 가지 FG‑LDPC 코드, (273,191)과 (1023,781)를 대상으로 수행되었다. BF 단계만 사용한 LF‑WBF는 중간 SNR 구간에서 비교적 낮은 FER을 보였으며, 고 SNR 구간에서는 MS 단계(NAB, NMS, OMS)로 전환함으로써 거의 BP 수준의 오류율을 달성했다. 전체 하이브리드 스킴은 동일한 MS 단독 디코딩 대비 평균 연산 횟수가 30~45% 감소했으며, 하드웨어 구현 시 필요한 메모리와 연산 유닛도 크게 절감될 수 있음을 정량적으로 제시한다. 또한, 기존의 기어‑시프트 디코딩이나 단순 BF+BP 연결 방식과 달리, 제안된 하이브리드 구조는 두 디코더 간의 성능 격차와 복잡도 차이를 명확히 정의하고, 각 단계의 수렴 속도를 비슷하게 맞춤으로써 전체 지연 시간을 최소화한다. 이는 실시간 통신, 저전력 IoT 디바이스 등에서 중요한 설계 목표와 부합한다. 결론적으로, 본 논문은 FG‑LDPC 코드의 구조적 특성을 고려한 효율적인 하이브리드 디코딩 프레임워크를 제시하고, 파라미터 최적화와 복합 성능·복잡도 분석을 통해 실용성을 충분히 입증하였다.