광섬유 링크 데이터에서 앨런 분산의 에일리어싱 방지

초록

광섬유를 이용한 초고정밀 주파수 전송은 수 kHz까지의 위상 잡음이 존재한다. 이러한 넓은 대역폭을 그대로 샘플링하면 앨런 분산(AVAR) 계산 시 에일리어싱이 발생해 불확실성이 과대평가된다. 본 논문은 신호 처리 관점에서 적절한 저역통과 필터링과 샘플링 전략을 제시하여 에일리어싱을 억제하고, AVAR만으로도 정확한 안정성 평가가 가능함을 증명한다. 1284 km 이탈리아 광섬유 링크 실험 데이터를 적용해 방법의 실효성을 확인하였다.

상세 분석

본 연구는 광섬유 전송 시스템에서 발생하는 고주파 위상 잡음이 Allan variance(AVAR) 측정에 미치는 영향을 정량적으로 분석한다. 광섬유 링크는 수 킬로헤르츠(kHz) 수준까지의 위상 변동을 포함하는데, 전통적인 AVAR 계산은 일반적으로 수 Hz 이하의 대역폭을 가정한다. 따라서 샘플링 주기가 충분히 짧지 않으면 고주파 성분이 저주파 성분으로 혼합되는 에일리어싱(aliasing) 현상이 발생한다. 에일리어싱은 AVAR의 τ(측정 간격) 의존성을 왜곡시켜, 특히 짧은 τ 구간에서 과도한 불안정성을 보고하게 만든다.

논문은 먼저 광섬유 링크의 위상 잡음 스펙트럼을 측정하고, 이를 1/f^α 형태와 고주파 플랫 노이즈가 결합된 모델로 근사한다. 이어서 샘플링 주기 Ts와 측정 대역폭 B 사이의 관계를 수식화하고, Nyquist 조건 B ≤ 1/(2Ts) 를 만족하도록 저역통과 필터를 설계한다. 필터 설계는 두 가지 접근법을 제시한다. 첫 번째는 디지털 FIR 필터를 이용해 급격한 차단 주파수를 구현하는 방법이며, 두 번째는 이동 평균(MA) 필터와 같은 간단한 시간 도메인 평활화 기법을 적용하는 방법이다. 두 방법 모두 필터 차수와 차단 주파수(fc)를 조절함으로써 위상 잡음 스펙트럼의 고주파 성분을 충분히 억제한다.

필터링 후에는 샘플링된 데이터에 대해 겹침(Overlapping) AVAR와 비겹침(Non‑overlapping) AVAR을 모두 계산하여, 필터 파라미터가 AVAR 결과에 미치는 영향을 비교한다. 실험 결과, 차단 주파수를 10 Hz 이하로 설정했을 때 τ < 1 s 구간에서의 AVAR 값이 원본 데이터에 비해 30 % 이상 감소했으며, 이는 에일리어싱에 의한 인위적 불안정성이 제거된 것을 의미한다. 또한, 필터링 전후의 모드(모든 τ 구간)에서의 평균 화이트 페이즈 노이즈(White Phase Noise) 레벨이 일관되게 유지됨을 확인함으로써, 필터가 신호의 본질적인 통계적 특성을 손상시키지 않음을 입증하였다.

마지막으로, 저자들은 이 방법을 1284 km 장거리 광섬유 링크 실험에 적용하였다. 해당 링크는 이탈리아 전역에 걸쳐 10⁻¹⁵ 수준의 상대 주파수 안정성을 제공하지만, 원본 데이터는 5 kHz까지의 위상 잡음을 포함하고 있었다. 위에서 제시한 FIR 필터(fc = 8 Hz, 차수 = 200)를 적용한 뒤 AVAR을 계산한 결과, τ = 1 s에서 2 × 10⁻¹⁴, τ = 100 s에서 5 × 10⁻¹⁶ 수준의 안정성을 정확히 재현했으며, 기존에 보고된 다른 추정기(예: Modified Allan variance)와 거의 동일한 결과를 얻었다. 이는 적절한 필터링과 샘플링만으로도 AVAR이 광섬유 링크의 성능 평가에 충분히 활용될 수 있음을 강력히 시사한다.