터보 EP 기반 필터형 등화기

본 논문은 디지털 통신 수신기에서 ISI(Inter‑Symbol Interference)로 인한 오류를 최소화하기 위한 터보 등화기의 새로운 구현 방식을 제안한다. 전통적인 최적 등화기인 BCJR(또는 MAP) 알고리즘은 채널 탭 수 L과 변조 심볼 수 M에 대해 복잡도가 M^L으로 급격히 증가해 실시간 처리에 부적합하다. 이러한 제약을 극복하기 위해 LMMSE(Linear Minimum Mean Square Error) 등화기가 널리 사용되는데, 이는 사전 확률을 Gaussian으로 근사하고, 복소수 FIR 필터를 이용해 선형 복잡도(N·W)와 필터 길이에 대한 2차 복잡도(O(W²))만을 요구한다. 그러나 LMMSE는 실제 이산 변조 심볼의 분포를 충분히 반영하지 못해, 특히 고차 변조와 긴 메모리 채널에서 성능 한계에 봉착한다. 이에 저자들은 Expectation Propagation(EP)이라는 베이지안 근사 기법을 도입한다. EP는 비가우시안 사전(예: QAM 심볼의 이산 분포)을 Gaussian 형태로 반복적으로 매칭시켜, 사후 분포의 평균과 분산을 보다 정확히 추정한다. 기존 EP 기반 등화기인 BEP(Block EP)와 SEP(Smoothing EP)는 전체 프레임 혹은 블록 단위로 EP를 적용해 복잡도가 O(N²) 혹은 O(L³) 수준으로 급증했으며, 사전 확률을 균일하게 가정해 디코더 피드백을 활용하지 못했다. 본 연구는 세 가지 주요 개선점을 제시한다. 1. **비균일 사전 활용**: 터보 반복이 시작된 이후 디코더가 제공하는 LLR 기반 사전 p_D(u|L_E(b))을 EP의 사전으로 직접 사용한다. 이는 사전이 실제 심볼 확률을 반영하도록 하여, EP가 추정하는 외부(Extrinsic) 분포의 정확도를 크게 높인다. 2. **EP 파라미터 최적화**: Damping factor와 EP 반복 횟수 등을 최적화해 기존 방식 대비 약 ⅓ 수준의 연산량만을 요구한다. 3. **필터형 EP 구현**: EP 업데이트를 전체 프레임이 아닌 FIR 필터 길이 W에 국한시켜, 복잡도를 O(N·W²)로 제한한다. 이는 LMMSE와 동일하거나 그 이하의 연산량으로 EP의 장점을 취득한다. 수식적으로는 다음과 같이 전개된다. 채널 관측 y는 y = H·u + w 로 모델링되며, H는 N×(N+L‑1) 차원의 Toeplitz 형태 채널 행렬이다. EP는 사후 q(u)≈CN(μ,σ²) 를 목표로, (8)~(11) 식에서 제시된 평균 μ_rℓs와 분산 σ²_rℓs를 H와 잡음 분산 σ_w²를 이용해 갱신한다. Moment Matching 단계에서는 q_E(u_k)와 p_D(u_k) 사이의 모멘트를 맞추고, Damping 단계에서 새로운 평균·분산을 기존 값과 선형 결합한다. 이 과정이 필터 길이 W에 대해 독립적으로 수행되므로, 복잡도는 FIR 길이에 대한 2차만 남는다. 알고리즘 1은 Moment Matching과 Damping 절차를 상세히 기술하고, 알고리즘 2는 전체 EP 절차를 터보 반복(T)과 EP 반복(S)으로 구성한다. 핵심 차이는 사전 분포를 (3)식의 균일 가정이 아닌 (6)식의 비균일 디코더 피드백으로 교체한 점이다. 이를 ‘non‑uniform BEP (nuBEP)’ 라고 명명한다. 시뮬레이션에서는 BPSK, 8‑PSK, 16‑QAM, 64‑QAM 변조와 다양한 채널 메모리(L=5~9) 상황을 고려했다. 결과는 다음과 같다. - **SNR 이득**: LMMSE 대비 BPSK에서 약 2 dB, 8‑PSK에서 5 dB, 16‑QAM/64‑QAM에서 각각 6 dB 이상 향상. - **기존 EP와 비교**: BPSK에서는 성능이 동등하고, 고차 변조에서는 2~5 dB 추가 이득. - **복잡도**: nuBEP는 기존 BEP 대비 약 ⅓, SEP 대비 약 1/3~1/2 수준의 연산량. - **EXIT 차트**: EP 필터는 BEP와 동일한 수렴 곡선을 보이며, LMMSE 대비 더 높은 Mutual Information을 제공한다. 논문은 또한 주파수 영역 구현이 아직 미완성임을 밝히며, 향후 연구 과제로는 (i) 주파수 영역 대응 필터 설계, (ii) MIMO 메모리 채널에 대한 확장, (iii) ASIC/FPGA 기반 하드웨어 가속 설계 등을 제시한다. 결론적으로, 본 연구는 “복잡도는 LMMSE 수준, 성능은 EP 수준”이라는 이상적인 트레이드오프를 달성한 필터형 EP 기반 터보 등화기를 제안한다. 이는 고속, 고차 변조, 장기 메모리 채널을 필요로 하는 차세대 무선 시스템(예: 5G‑NR, mmWave, 초고속 광통신)에서 실용적인 수신기 설계에 큰 기여를 할 것으로 기대된다.