112Gbps 프론트홀 전송을 위한 DMT·Nyquist·Partial‑Response PAM4 성능 비교

본 논문은 차세대 5G 네트워크에서 핵심 역할을 수행할 프론트홀 전송망을 대상으로, 비용 효율적인 회색(optical grey) 광학 부품과 최신 CMOS 기반 고속 디지털‑아날로그 변환기를 활용한 112 Gb/s 전송 방식을 실험적으로 비교·분석한다. 연구 배경으로는 100 G 트렁크 라인을 10 km 이하의 표준 단일모드섬유(SSMF)로 전송하면서, 전력 소비와 장비 비용을 최소화하고자 하는 요구가 있다. 이를 위해 전자흡수 변조 레이저(EML)를 광원으로 채택했으며, 1300 nm 파장 대역을 이용해 색분산 손실을 회피하고, 25 Gbps 드라이버와 84 GS/s 8‑bit DAC/ADC 테스트 칩을 사용해 전기‑광 변조·복조 체인을 구성하였다. 전송에 사용된 세 가지 변조 방식은 다음과 같다. 첫 번째는 Nyquist PAM4로, 2비트를 1심볼에 매핑해 4‑레벨 신호를 생성하고, β≈0.1의 롤‑오프를 갖는 Raised‑Cosine 필터링으로 대역폭을 절반으로 압축한다. 전송 전 디지털 프리‑에미션(Pre‑Emphasis)으로 DAC와 드라이버의 고주파 손실을 보상하고, 수신 측에서는 2 샘플/심볼로 재샘플링 후 41‑tap까지 확장 가능한 피드포워드 이퀄라이저(FFE)를 적용한다. 실험 결과 최소 11‑tap 프리‑이퀄라이저가 필요하며, 41‑tap FFE와 결합했을 때 BER이 4.4×10⁻³ 이하로 떨어진다. 두 번째는 Partial‑Response(P​R) PAM4이다. 디지털 도메인에서 s(k)=s(k)+s(k‑1) 형태의 딜레이‑앤드‑애드 필터를 적용해 신호 스펙트럼을 저주파 중심으로 재배치한다. 이 과정에서 7‑레벨(duobinary) 신호가 생성되며, 전송 전 동일한 프리‑에미션을 적용한다. 수신 측에서는 FFE와 4‑상태 MLSE(Maximum Likelihood Sequence Estimation)를 결합해 심볼 간 상관성을 해소한다. MLSE는 복잡도가 높지만 프리‑코딩이 필요 없으며, 동일한 41‑tap FFE와 함께 BER < 4.4×10⁻³을 달성한다. 세 번째는 DMT(Discrete Multi‑Tone)이다. OFDM 기반으로 서브캐리어를 512‑point FFT로 생성하고, 255개의 사용 가능한 서브캐리어 중 242개를 실제 데이터 전송에 활용한다. 전송 전 채널 SNR을 16‑QAM 기준으로 측정한 뒤, Chow’s bit‑loading과 Ciofi’s power‑loading 알고리즘을 적용해 각 서브캐리어에 최적 비트와 전력을 할당한다. 실험에서 0‑25 GHz 구간은 SNR ≥ 15 dB로 높은 차수 변조가 가능하고, 25‑30 GHz 이상에서는 낮은 차수와 전력 감소가 적용된다. DMT는 1‑tap 단순 이퀄라이저만으로도 충분히 복구가 가능하나, FFT와 로드 알고리즘이 DSP 복잡도를 주도한다. 전송 실험에서는 백투백(0 km)과 10 km SSMF 모두에서 세 포맷이 비슷한 성능을 보였다. 특히, 최적화된 DSP 파라미터(프리‑이퀄라이저 탭 수, FFE 탭 수, MLSE 상태 수, FFT 길이 등)를 적용하면 10 km 전송 시에도 BER이 4.4×10⁻³ 이하, 즉 표준 FEC(Forward Error Correction) 한계 이하가 된다. 이는 저비용 회색 광학 소자와 고속 CMOS DAC/ADC만으로도 5G 프론트홀 요구사항을 충족할 수 있음을 입증한다. 시스템 설계 관점에서 보면, Nyquist PAM4와 PR‑PAM4는 전통적인 FFE 기반 이퀄라이저와 비교적 간단한 DSP 구조를 갖지만, 프리‑에미션과 다수의 FFE 탭이 필요해 전자 회로 설계가 복잡해진다. 반면 DMT는 복잡한 FFT와 로드 알고리즘이 필요하지만, 하드웨어 구현 시에는 고정된 1‑tap 이퀄라이저와 낮은 샘플링 레이트로 충분히 동작한다. 또한, DMT는 채널 상태에 따라 동적으로 비트·전력 할당을 조정할 수 있어, 다양한 전송 거리와 광섬유 손실 조건에 유연하게 대응한다. 결론적으로, 112 Gb/s 전송을 위한 최적 변조 방식은 시스템 목표(전력, 비용, 구현 복잡도, 실시간 처리 능력)에 따라 선택될 수 있다. 본 연구는 세 변조 방식 모두 10 km 이내 SSMF 전송에서 FEC 한계 이하의 오류율을 달성함을 실험적으로 증명했으며, 이는 5G 프론트홀에서 저가 회색 광학 기반 이더넷 전송 솔루션이 실현 가능함을 강력히 시사한다.