광섬유 전송 링크의 데이터 필터링과 앨런 편차 활용

초록

본 논문은 광섬유 기반 주파수 전송에서 고주파 잡음을 사전에 필터링한 뒤 전통적인 앨런 편차(Allan deviation)를 적용해 통계적 불확도를 정확히 추정하는 방법을 제시한다. 수정 앨런 편차(modified Allan deviation) 대신 단순 필터링을 이용함으로써 데이터의 편향을 최소화하고, 1284 km 장거리 코히런트 광링크 실험에 적용해 실효성을 검증하였다. 또한 Λ형 상용 위상·주파수 카운터를 활용하는 구체적 절차도 설명한다.

상세 분석

이 연구는 광섬유를 이용한 고정밀 주파수 전송에서 흔히 발생하는 고주파 잡음이 Allan 편차 계산에 미치는 영향을 정량적으로 분석한다. 기존에는 잡음 스펙트럼이 1/f² 이하인 경우 수정 Allan 편차(modified Allan deviation, MDEV)를 사용해 고주파 성분을 평균화했지만, MDEV는 계산 복잡도가 높고 해석이 직관적이지 않다는 단점이 있다. 저자들은 먼저 디지털 FIR(Finite Impulse Response) 혹은 IIR(Infinite Impulse Response) 필터를 적용해 측정 데이터에서 0.1 Hz 이상 주파수 대역의 잡음을 억제한다. 필터 차수와 컷오프 주파수는 실험 시스템의 대역폭과 노이즈 플로어에 맞춰 최적화되며, 필터링 후 남은 저주파 성분은 순수하게 전송 링크의 위상·주파수 변동을 반영한다. 이렇게 전처리된 데이터에 전통적인 Allan 편차를 적용하면, MDEV와 동일한 수준의 잡음 억제 효과를 얻으면서도 계산이 간단하고, 기존의 Allan 편차 해석 체계를 그대로 활용할 수 있다.

실험에서는 이탈리아 전역에 걸친 1284 km 코히런트 광섬유 링크를 구축하고, Λ형(람다형) 상용 카운터를 이용해 위상 데이터를 1 s 간격으로 수집하였다. Λ형 카운터는 내부적으로 삼각형(Λ) 가중치를 적용해 평균값을 산출하므로, 필터링 단계와 자연스럽게 결합된다. 저자들은 필터링 전후의 Allan 편차 곡선을 비교했으며, 고주파 잡음이 크게 감소한 것을 확인했다. 특히 10 s~100 s 구간에서 기존 MDEV 기반 평가와 거의 동일한 안정도(σ_y≈1×10⁻¹⁵)를 보였으며, 장시간(>10⁴ s)에서는 약 5×10⁻¹⁶ 수준까지 향상되었다.

이 방법의 장점은 다음과 같다. 첫째, 데이터 전처리와 안정도 계산을 명확히 분리함으로써 분석 흐름이 투명해진다. 둘째, 기존 Allan 편차 툴킷을 그대로 사용할 수 있어 연구자와 엔지니어가 별도의 소프트웨어를 도입할 필요가 없다. 셋째, Λ형 카운터와의 호환성이 높아 상용 장비만으로도 고정밀 전송 시스템을 손쉽게 평가할 수 있다. 마지막으로, 필터 설계가 유연하기 때문에 다양한 링크 길이·환경(예: 온도 변동, 진동)에도 적용 가능하다.

하지만 몇 가지 제한점도 존재한다. 필터링 과정에서 신호의 위상 연속성이 손상될 위험이 있으며, 필터 차수 선택이 부적절하면 실제 위상 변동까지 억제될 수 있다. 또한, 매우 낮은 주파수(≤0.01 Hz) 잡음이 지배적인 경우에는 추가적인 장기 평균 기법이 필요하다. 향후 연구에서는 적응형 필터링과 실시간 구현을 결합해 실시간 모니터링 시스템에 적용하는 방안을 모색할 수 있다.