나이퀴스트 신호를 초과하는 전송을 위한 비직교 시간분할 다중화

초록

본 논문은 나이퀴스트 sinc 시퀀스를 코사인 푸리에 급수로 표현하고, 이를 비직교 시간분할 다중화(NOTDM) 방식에 적용함으로써 기존 나이퀴스트 한계를 넘어서는 전송 속도를 달성한다. 시뮬레이션 결과, 심볼 전송률을 최대 25%까지 증가시킬 수 있음을 보여준다.

상세 분석

이 연구는 광통신 시스템에서 스펙트럼 효율을 높이기 위한 Faster‑than‑Nyquist(FTN) 기술의 한 형태로, 전통적인 직교 시간분할 다중화(OTDM)와 달리 신호 간에 의도적인 시간 오버랩을 허용한다. 핵심 아이디어는 이상적인 Nyquist sinc 파형을 무한히 긴 시간 영역에서 완벽히 복원 가능한 ‘sinc 시퀀스’로 정의하고, 이를 코사인 기반 푸리에 급수 전개식으로 수학적으로 표현한다는 점이다.

푸리에 급수 전개는 sinc 시퀀스의 주기성을 이용해 유한 개수의 코사인 성분으로 근사할 수 있음을 보이며, 이때 각 코사인 성분은 서로 직교하지 않지만, 적절한 위상 및 시간 지연을 부여하면 전체 파형이 원래의 sinc 시퀀스를 재구성한다. 이러한 비직교 특성은 시간축에서 심볼 간 간격을 기존 나이퀴스트 간격보다 짧게 설정할 수 있게 하며, 결과적으로 전송 가능한 심볼 레이트가 증가한다.

시뮬레이션에서는 2‑레벨 PAM (Pulse Amplitude Modulation) 신호를 사용해 1.25배, 1.5배, 1.75배, 2배의 오버샘플링 비율을 시험하였다. 각 경우에 대해 BER(Bit Error Rate)과 SNR(Signal‑to‑Noise Ratio) 관계를 분석했으며, 특히 1.25배(25% 초과) 구간에서 기존 OTDM 대비 동일한 BER 수준을 유지하면서 전송률이 25% 상승함을 확인했다. 이는 비직교 시간 지연이 신호 간 간섭(ISI)을 완전히 제거하지는 못하지만, 디지털 신호 처리(DSP) 기반의 복원 알고리즘(예: 최소 평균 제곱(MMSE) 등)으로 충분히 보정 가능함을 의미한다.

또한, 광섬유 전송 시 발생하는 색분산과 비선형 효과를 고려한 경우에도, 비직교 시간 지연이 파형의 스펙트럼을 크게 확산시키지 않아 기존 파장 다중화(WDM) 시스템과의 호환성이 유지된다. 이는 sinc 시퀀스 자체가 밴드 제한 특성을 갖고 있어, 추가적인 필터링 없이도 전송 대역폭을 효율적으로 활용할 수 있기 때문이다.

핵심 기여는 다음과 같다. 첫째, sinc 시퀀스의 코사인 푸리에 급수 표현을 통해 비직교 시간 지연을 수학적으로 정량화하였다. 둘째, NOTDM 방식을 적용했을 때 발생하는 ISI를 DSP 기반 복원으로 충분히 억제할 수 있음을 실험적으로 입증하였다. 셋째, 전통적인 OTDM 대비 25%까지 심볼 전송률을 향상시킬 수 있는 실용적인 파라미터 범위를 제시하였다. 이러한 결과는 차세대 고속 광통신 시스템에서 스펙트럼 효율을 극대화하는 새로운 설계 패러다임을 제공한다.