코히어런시 항을 포함한 2D GN 적분 전부를 포괄하는 폐쇄형 공식

초록

본 논문은 기존 GN 모델의 2차원 수치 적분이 실시간 적용에 부적합한 문제를 해결하고자, 전제조건 없이 모든 파장대와 링크 구조를 다룰 수 있는 폐쇄형 식을 제시한다. 특히 저분산 섬유에서도 정확도를 유지하도록 코히어런시 항을 명시적으로 포함시켰으며, 시뮬레이션과 실험을 통해 원본 GN 모델과의 오차를 최소화함을 입증한다.

상세 분석

본 연구는 광통신 시스템 설계·최적화에 핵심적인 비선형 잡음(NLI) 예측을 위한 GN(Generalized Nonlinear) 모델의 계산 복잡성을 근본적으로 낮추는 접근법을 제시한다. 기존 GN 모델은 전파 방정식의 2‑D 적분을 통해 NLI 파워 스펙트럼을 구하지만, 전체 C밴드 혹은 C+L 밴드와 같이 수백 개의 채널을 포함하는 경우 적분 차원이 커져 실시간 처리에 수초에서 수분이 소요된다. 이를 해결하기 위해 여러 연구에서 ‘산술 평균’·‘고분산 가정’ 등 제한적인 전제조건을 두고 폐쇄형 근사식을 도출했으나, 저분산 섬유(예: NZ‑DSF)에서는 파장 간 상호작용이 강해 이러한 근사가 크게 오차를 발생시킨다.

논문은 먼저 GN 모델의 핵심인 ‘링크 함수(link function)’를 재정의한다. 기존 식에서는 위상 일관성(coherency)을 무시하고 절댓값 제곱만을 고려했지만, 실제 전송에서는 서로 다른 섹션 간 위상 차이가 누적되어 NLI에 직접적인 영향을 미친다. 저자들은 이 위상 일관성 항을 ‘코히어런시 항(coherency term)’이라 명명하고, 복소수 형태의 전파 매개변수를 이용해 정확히 적분한다.

다음으로 ‘섬(island)’ 개념을 도입한다. 2‑D 적분 영역을 파장‑거리 평면에서 여러 개의 사각형 혹은 다각형 영역으로 분할하고, 각 섬마다 동일한 전송 파라미터(섬광 손실, 색분산, 비선형 계수 등)를 가정한다면 적분을 독립적으로 수행할 수 있다. 이때 섬 간 경계에서 발생하는 위상 불연속성을 코히어런시 항으로 보정함으로써 전체 적분을 하나의 폐쇄형 식으로 합친다.

수학적으로는 복소수 전송 함수 H(f,z)를 이용해 NLI 전력 스펙트럼 S_NLI(f) 를
S_NLI(f)=∑{i,j,k} C{ijk}·H_i·H_j·H_k·e^{jΦ_{ijk}}
와 같이 표현한다. 여기서 C_{ijk}는 4‑파 상호작용 계수, Φ_{ijk}는 섬 간 위상 차이이며, 이 두 항을 정확히 계산하면 전통적인 2‑D 적분과 동일한 결과를 얻는다. 저자들은 이 식을 변형해 각 섬의 파라미터를 집합적으로 나타내는 ‘링크 매트릭스’를 도입하고, 행렬 연산을 통해 전체 시스템에 대한 NLI를 한 번에 구한다.

복잡도 분석 결과, 제안된 폐쇄형 공식은 O(N) 수준(여기서 N은 채널 수)으로 계산량이 감소한다. 실제 시뮬레이션에서는 80채널 C+L 밴드 전송에 대해 기존 2‑D 적분이 45 s(고성능 CPU) 걸리는 반면, 제안식은 0.12 s에 계산이 완료되었다. 오차 측면에서는 평균 절대 오차가 0.3 dB 이하이며, 특히 저분산 섬유에서는 0.5 dB 미만으로 기존 근사식보다 크게 개선되었다.

이러한 결과는 실시간 네트워크 관리, 동적 파워 할당, 그리고 머신러닝 기반 최적화 루프에 직접 적용 가능함을 의미한다. 또한, 코히어런시 항을 명시적으로 포함함으로써 향후 다중코어·다중밴드 전송, 공간분할 다중화(SDM) 등 복합 전송 환경에서도 확장성을 확보한다는 점에서 학술적·산업적 파급 효과가 크다.