신경망 윈도우 디코더를 활용한 SC LDPC 코드 성능 향상

초록

본 논문은 공간적으로 결합된 LDPC(SC‑LDPC) 코드의 윈도우 디코딩에 신경망 가중치를 도입한 신경망 윈도우 디코더(NWD) 를 제안한다. 목표 변수노드만을 대상으로 손실을 제한하는 목표‑특정 학습, 체크노드 업데이트 중요도를 학습하는 비균일 스케줄링, 그리고 이전 윈도우에서 오류가 감지될 때 전용 가중치 집합을 전환하는 적응형 디코딩 세 가지 전략을 통해 기존 윈도우 디코더 대비 3배 이상의 성능 향상 또는 45 % 이상의 연산 복잡도 감소를 달성한다.

상세 분석

본 연구는 SC‑LDPC 코드의 구조적 특성을 활용하여 기존 윈도우 디코더(WD)의 장점을 유지하면서, 신경망 기반 가중치를 추가함으로써 디코딩 성능과 복잡성을 동시에 개선한다. 첫 번째 핵심 기법인 목표‑특정 학습은 손실 함수에 윈도우 내 목표 변수노드(VN)만을 포함하도록 제한한다. 이는 불필요한 출력 노드를 제거해 네트워크를 자연스럽게 프루닝(pruning)하고, 학습 파라미터 수를 크게 감소시킨다. 결과적으로 학습 수렴 속도가 빨라지고, 동일 학습 자원에서도 기존 WD 대비 3배 이상의 BLER 개선을 보인다.

두 번째 기법은 신경망 기반 비균일 스케줄링이다. 체크노드(CN) 업데이트 시 현재 메시지를 이전 메시지와 혼합하는 감쇠 계수(γ) 를 학습 파라미터로 두어, 각 CN 업데이트의 상대적 중요도를 정량화한다. 감쇠 계수가 큰 CN은 업데이트가 디코딩에 미치는 영향이 적다고 판단하여 스킵(skip)하도록 설계한다. 학습 후 γ 값을 기준으로 하위 41 %의 CN 업데이트를 제외해도 성능 저하가 없으며, 이는 기존 연구에서 제시된 소프트 BER 기반 스킵 방식보다 구현 복잡도가 낮고 실시간 연산 오버헤드가 전혀 없다.

세 번째 기법은 적응형 NWD이다. 윈도우 디코딩 과정에서 이전 윈도우의 오류가 현재 윈도우에 전파되는 오류 전파(EP) 문제를 해결하기 위해, EP 상황을 시뮬레이션한 데이터셋을 별도로 수집하고 EP‑저항 가중치 집합을 학습한다. 디코딩 중 이전 윈도우에서 오류가 감지되면, 일반 가중치 대신 EP‑저항 가중치를 적용한다. 이 전환은 간단한 오류 검출 로직만으로 구현 가능하며, 코드 구조나 디코더 아키텍처를 변경하지 않으면서 EP 발생 확률을 현저히 낮춘다.

전체 알고리즘은 세 단계(목표‑특정 학습 → 비균일 스케줄링 → 적응형 전환)를 순차적으로 수행한다. 학습에는 활성 학습(active learning)과 정규화 검증 오류(normalized validation error) 기법을 도입해 데이터 효율성을 높이고, 다양한 SNR 환경에서 일반화 성능을 확보한다. 실험에서는 길이 20 000의 실용적인 SC‑LDPC 코드를 대상으로, 동일 윈도우 크기와 최대 반복 횟수 하에서 기존 WD 대비 0.5 dB 수준의 SNR 이득을 얻거나, 동일 성능을 유지하면서 45 % 정도의 연산량을 절감한다.

이와 같이 NWD는 성능 향상, 복잡도 감소, 오류 전파 억제라는 세 축을 동시에 만족시키는 종합적인 솔루션을 제공한다. 특히, 체크노드 업데이트를 동적으로 스킵하는 비균일 스케줄링은 하드웨어 구현 시 메모리 접근 및 연산 파이프라인을 최적화할 수 있는 여지를 제공한다. 또한, EP‑저항 가중치 집합을 별도로 유지함으로써 실시간 서비스에서 발생할 수 있는 급격한 오류 전파에 대한 탄력성을 확보한다. 이러한 설계 철학은 기존 WD의 하드웨어 친화성을 유지하면서, 딥러닝 기반 가중치 최적화를 통해 실제 통신 시스템에 바로 적용 가능한 수준의 효율성을 보여준다.