신경망 확률 진폭 쉐이핑을 이용한 비선형 광섬유 채널

초록

본 논문은 비선형 광섬유 전송에서 확률 진폭 쉐이핑(PAS)을 확장한 신경망 기반 공동분포 학습 기법인 Neural PAS(NP‑PAS)를 제안한다. NP‑PAS는 부호 없는 진폭에 대한 자동회귀 LSTM 모델을 학습시켜 시간적 의존성을 활용하고, 기존 PAS와 시스템적 FEC와 완전 호환된다. 시뮬레이션 결과, 205 km 단일 구간 64‑QAM 전송에서 기존 PAS와 시퀀스 선택 방식 대비 약 0.5 dB의 SNR 향상 및 0.1 bits/2D AIR 증가를 달성하였다.

상세 분석

본 연구는 비선형 광섬유 채널에서 전통적인 확률 진폭 쉐이핑(PAS)이 심볼의 주변 확률만을 최적화한다는 한계를 지적하고, 심볼 시퀀스 전체의 공동분포를 직접 학습하는 새로운 프레임워크를 제시한다. 핵심 아이디어는 부호 없는 진폭값에 한정된 자동회귀 신경망(autoregressive RNN, 구체적으로 LSTM)을 도입해 각 시간 단계에서 이전 진폭들의 컨텍스트를 이용해 다음 진폭의 조건부 확률을 생성하는 것이다. 이렇게 생성된 조건부 분포는 산술 분포 매처(ADM)를 통해 비트 스트림을 부호 없는 심볼 시퀀스로 매핑하고, 부호(bit sign)는 기존 FEC 패리티 스트림에서 추출함으로써 PAS와 완전 호환성을 유지한다.

학습 과정에서는 Gumbel‑Softmax 트릭과 straight‑through estimator를 활용해 이산 심볼 샘플링을 미분 가능하게 만든 뒤, 차별화 가능한 비선형 광섬유 채널 모델인 additive‑multiplicative(AM) perturbation 모델을 통해 전파 효과를 시뮬레이션한다. AM 모델은 1차 비선형 위상 회전과 켈리(Kerr) 비선형 왜곡을 포함하며, 상수 위상 복구(CPR) 환경을 가정한다. 전파 후에는 가우시안 디마처를 사용해 LLR을 계산하고, 조정된 binary cross‑entropy(BCE) 손실을 최소화함으로써 AIR(achievable information rate)를 최대화한다.

실험 설정은 205 km 단일 구간, 5‑채널 WDM, 듀얼 폴라리제이션 64‑QAM, 50 GBd 전송을 기반으로 하며, SSFM을 통해 물리적 전파를 정확히 재현한다. 블록 길이 L을 4부터 64까지 변화시키며 NP‑PAS와 기존 Neural PAS(NPS), 전통적인 PAS(ESS) 및 ESS+시퀀스 선택을 비교한다. 결과는 L이 작을 때(N≤8) NPS가 약간 우위에 있지만, L이 커질수록 NP‑PAS가 안정적으로 성능을 향상시키고 NPS는 포화 후 성능 저하를 보인다. 이는 NP‑PAS가 탐색 공간을 4^L배 축소해 학습 안정성을 확보한 데 기인한다. 최적 발사 전력에서 NP‑PAS와 NPS는 ESS 대비 약 0.5 dB 높은 효율 SNR와 0.1 bits/2D AIR 상승을 기록했으며, 발사 전력 최적점도 약 0.5 dB 높았다. 이는 공동분포 학습이 비선형 간섭(NLIN) 완화에 효과적임을 입증한다.

또한, 논문은 현재 단일 구간에 한정된 실험임을 명시하고, 다구간 전송에 대한 확장 연구가 필요함을 제시한다. 전반적으로 NP‑PAS는 PAS와 시스템적 FEC와의 호환성을 유지하면서도 비선형 채널에 대한 강인성을 제공하는 실용적인 솔루션으로 평가된다.