천문·지오데시 시계열 분석을 위한 앨런 분산의 확장과 활용

초록

앨런 분산(AVAR)을 기본으로 하여 관측 가중치와 다차원 데이터를 동시에 처리할 수 있는 가중·다차원 AVAR(WMAVAR) 방법을 제시하고, 지구 자전, 관측소 좌표, 전파원 위치 등 천문·지오데시 시계열에 적용한 사례를 통해 잡음 특성(백색·플리커·랜덤 워크)과 스펙트럼·프랙탈 구조를 효과적으로 분석함을 보여준다.

상세 분석

본 논문은 1960년대 주파수 표준의 안정성을 평가하기 위해 도입된 앨런 분산(AVAR)을 천문·지오데시 분야에 적용하면서 발생하는 두 가지 근본적인 한계를 정확히 짚어낸다. 첫 번째는 관측값마다 서로 다른 측정 오차(가중치)를 갖는 비균등 데이터에 대해 고전적인 AVAR 식(1)이 오차를 무시한다는 점이다. 이를 해결하기 위해 저자는 각 측정값 y_i와 그 표준편차 s_i를 이용해 가중 평균 차이(p_i)와 가중 평균 차이의 제곱합을 구하는 식(2)을 도입하고, 이를 WADEV(Weighted Allan Deviation)이라 명명한다. 두 번째 한계는 좌표와 같은 다차원 벡터 데이터가 개별 성분으로 분리되어 처리될 경우, 성분 간 상관관계와 유클리드 거리 기반의 실제 변동을 반영하지 못한다는 점이다. 이를 보완하기 위해 k‑차원 측정값 y_i와 그 오차 s_i를 이용해 유클리드 거리 d_i를 정의하고, 가중치 p_i를 거리와 오차의 조합으로 계산한 식(5)를 제시한다. 이때 가중·다차원 AVAR(WMAVAR)과 그 제곱근인 WMADEV는 기존 AVAR이 민감하게 반응하지 못하던 장기 트렌드, 급격한 점프, 그리고 비정상적인 잡음 성분을 효과적으로 구분한다.

논문은 잡음 스펙트럼을 S(f)=S_0(f/f_0)^k 형태의 파워‑법칙으로 가정하고, 로그‑로그 플롯에서 τ(평균 구간)와 σ^2(τ) 사이의 기울기 μ를 통해 백색(μ=−0.5), 플리커(μ=0), 랜덤 워크(μ=0.5) 등 세 가지 기본 잡음 유형을 식별한다(식 7‑8). 또한, Hurst 지수 추정을 통해 시계열의 장기 의존성 및 프랙탈 특성을 정량화한다.

실제 적용 사례에서는 IERS의 지구 자전 파라미터 결합, VLBI 기반 천구극 좌표 시계열, GPS·SLR·DORIS 관측소 좌표, 그리고 ICRF2 구축을 위한 전파원 위치 시계열 등에 WMAVAR을 적용하였다. 특히, 두 개의 전파원 카탈로그(ICRF‑Ext.2와 RSC(PUL)07C02)를 비교할 때 2‑차원 WADEV 값이 105–113 μas 수준으로 차이를 보이며, 가중 평균을 사용한 경우 기존 RMS와 비교해 잡음 평가가 더 민감하고 신뢰성이 높음을 확인한다. 또한, 동일 전파원에 대해 서로 다른 처리 체계(USNO의 usn000d와 usn001a)에서 얻은 좌표 시계열을 비교함으로써, 가중·다차원 AVAR이 처리 방법에 따른 시스템적 편향과 랜덤 잡음을 명확히 구분할 수 있음을 실증한다.

결론적으로, WMAVAR은 비균등·다차원 시계열에 대한 잡음 특성 분석을 위한 강력한 도구이며, 기존 RMS 기반 평가보다 장기 트렌드와 급격한 변동에 덜 민감하면서도 실제 물리적 잡음 구조를 정확히 포착한다는 점에서 천문·지오데시 데이터 품질 관리와 모델링에 필수적인 방법론으로 자리매김한다.