QDB 변조 PDM‑FTN 시스템을 위한 훈련 심볼 기반 적응 등화

초록

본 논문은 훈련 심볼을 이용한 최소 평균 제곱(LMS) 기반 적응 등화 알고리즘(TS‑LMS)을 제안한다. QDB(Quadrature Duobinary) 변조와 PDM‑FTN(Polarization Division Multiplexed Faster‑than‑Nyquist) 조합에서 발생하는 다중 후보 심볼 문제를 고려하여 훈련 심볼을 정확히 매핑하고, 훈련 모드와 트래킹 모드로 전환하면서 편광 복조 성능을 크게 향상시킨다. 시뮬레이션 결과, TS‑LMS는 다양한 편광 정렬 조건에서 거의 100 % 수렴률을 보이며, 기존 CMA‑with‑Differential‑Coding 대비 4‑QAM에서는 1.7 dB, 16‑QAM에서는 1.8 dB의 OSNR 절감 효과를 얻는다. 또한 4‑QAM에서는 QDB가 Tomlinson‑Harashima Precoding(THP)보다 BER 면에서 우수하지만, 16‑QAM에서는 THP가 더 나은 결과를 보인다.

상세 분석

이 논문은 QDB 변조가 적용된 PDM‑FTN 시스템에서 편광 복조를 위한 적응 등화기의 설계 난제를 다룬다. QDB 연산은 현재 심볼에 이전 심볼을 더하는 방식으로, 동일한 비트 조합이 여러 좌표(점)로 매핑될 수 있다. 따라서 전통적인 TS‑LMS가 가정하는 ‘고정된 심볼 위치’와는 달리, 훈련 심볼이 가질 수 있는 후보 위치(t = 1, 2, 4)를 모두 고려해야만 등화기가 올바른 오류 신호를 계산할 수 있다. 저자는 이 문제를 해결하기 위해 등화기 업데이트 식에 후보 위치 중 최소 Euclidean 거리와 위상 보정(파일럿‑보조 ML 위상 추정)을 동시에 고려하는 선택 규칙을 도입하였다.

알고리즘은 두 단계로 동작한다. 첫 번째 ‘훈련 모드’에서는 N₁개의 연속 훈련 심볼을 사용해 LMS 기반 등화기를 사전 수렴시킨다. 이후 ‘트래킹 모드’로 전환해 N₂개의 훈련 심볼을 일정 간격(Nb)마다 삽입, DD‑LMS를 이용해 채널 변동(위상 사이클 슬립, 편광 상태 변화)을 실시간 추적한다. 이 구조는 기존 DD‑LMS가 편광 불일치(Δϕ ≈ 25°~65°)에서 수렴 실패율이 99 %에 달하던 문제를 크게 완화한다. 시뮬레이션에서는 1000번의 독립 실행마다 TS‑LMS가 100 % 수렴했으며, DD‑LMS는 0.25 % 이하의 성공률을 보였다.

성능 평가에서는 4‑QAM과 16‑QAM 각각에 대해 심볼‑별 검출(SbS)과 최대우도 시퀀스 검출(MLSD)을 적용하였다. 레이저 라인폭을 1 MHz로 증가시켜 위상 잡음을 강화했음에도 TS‑LMS는 사이클 슬립 없이 안정적인 위상 복구를 수행했다. 결과적으로 4‑QAM에서 OSNR이 2 × 10⁻² BER을 달성하기 위해 CMA‑with‑Differential‑Coding 대비 1.7 dB( SbS)·1.3 dB(MLSD) 감소했으며, 16‑QAM에서는 각각 1.8 dB·0.8 dB의 개선을 보였다.

THP와의 비교에서는 4‑QAM에서 QDB가 0.5 dB~2.4 dB 더 낮은 OSNR을 요구해 우수함을 확인했지만, 16‑QAM에서는 QDB가 1 dB 정도 열위에 있었다. 이는 QDB 연산이 16‑QAM의 그레이 매핑 대칭성을 파괴해 심볼 간 거리 감소를 초래하기 때문이다. 또한 채널 간격(Δf) 압축 실험에서 QDB는 4‑QAM에서 23 GHz, 16‑QAM에서 28 GHz까지 Nyquist 한계 대비 1 dB OSNR 페널티 내에서 압축 가능했으며, THP는 각각 27.5 GHz와 28 GHz에서 동일한 페널티를 보였다.

전반적으로 제안된 TS‑LMS는 QDB‑PDM‑FTN 시스템에서 훈련 심볼의 다중 후보 문제를 효과적으로 해결하고, 편광 복조의 수렴성 및 OSNR 효율을 크게 향상시킨다. 이는 고스펙트럼 효율을 요구하는 차세대 광통신 시스템에 실용적인 솔루션을 제공한다.