GPS 기반 정점 대기 지연 추정에 대한 확률 모델링 영향

초록

본 연구는 호주 IGS 관측 데이터를 이용해 GPS 정점 대기 지연(ZTD) 추정에 적용되는 다양한 확률 모델링 방법을 비교한다. 기존에 널리 쓰이는 1차 가우스‑마르코프 과정과 동일한 측정 정확도 가정이 현실과 맞지 않음을 지적하고, 위성 고도각 기반 코사인 가중치 모델이 다른 모델보다 ZTD 추정 정확도를 크게 향상시킴을 보인다. 최적 모델 적용 시 ZTD 차이가 최대 1 cm까지 변동함을 확인했으며, 이는 실시간 수치예보(NWP) 및 대기 보정에 중요한 영향을 미친다.

상세 분석

이 논문은 GPS 기반 정점 대기 지연(ZTD) 추정 과정에서 사용되는 확률 모델링이 결과 정확도에 미치는 영향을 정량적으로 평가한다. 전통적으로 ZTD는 1차 가우스‑마르코프(1‑GM) 프로세스로 모델링되며, 모든 GPS 측정값(위상·의사거리)에 동일한 표준편차와 큰 상관계수를 부여한다. 그러나 실제 관측에서는 위성 고도, 전리층 상태, 수신기 노이즈 등으로 인해 측정 정확도가 크게 달라진다. 논문은 이러한 비현실적인 가정을 탈피하기 위해 네 가지 확률 모델을 설계하였다. 첫 번째는 기존 1‑GM 모델을 그대로 적용한 베이스라인; 두 번째는 위성 고도각에 비례하는 가중치를 적용한 ‘sin‑weight’ 모델; 세 번째는 고도각 기반 코사인 함수( cos θ ) 형태의 가중치를 도입한 모델; 네 번째는 변동성 성분 추정(VCE) 기법을 이용해 실측 잔차에서 직접 노이즈 레벨을 추정하는 적응형 모델이다.

데이터는 호주 전역에 배치된 IGS 정밀 관측소 12곳을 대상으로 30일간(2022년 7월) 수집된 L1/L2 위성 관측값을 사용했으며, 각 정점에 대해 동일한 처리 흐름(전처리 → 위성·수신기 편차 보정 → ZTD 추정)으로 비교했다. 평가 지표는 (1) 외부 기준(기상청 레이더·라디오소닉 관측)과의 RMS 차이, (2) 동일 정점 내 모델 간 ZTD 차이, (3) 추정 공분산 행렬의 조건수 등을 포함한다.

결과는 코사인 기반 가중치 모델이 RMS 차이를 평균 0.7 cm 감소시켰으며, 특히 고도각이 낮은(30° 이하) 위성에 대한 노이즈 억제가 두드러졌다. VCE 모델도 비슷한 수준의 개선을 보였지만, 계산 복잡도와 수렴 안정성에서 코사인 모델에 비해 불리했다. 반면, 기존 1‑GM 모델은 고도각에 따른 편향이 누적돼 최대 1 cm 정도의 ZTD 차이를 야기했다. 이러한 차이는 NWP 초기 조건에 직접 투입될 경우, 강수·기압 예측 오차에 비례해 누적될 가능성이 있다.

또한 논문은 모델 선택이 실시간 처리 파이프라인에 미치는 영향을 논의한다. 코사인 가중치 함수는 사전에 정의된 수식만으로 실시간 적용이 가능하고, 별도의 파라미터 추정 단계가 없으므로 기존 GNSS‑RTK 시스템에 손쉽게 통합될 수 있다. 반면, VCE와 같은 적응형 모델은 매시간 혹은 매일 데이터 기반 재추정이 필요해 연산 부하가 증가한다.

결론적으로, GPS‑ZTD 추정에서 측정 정확도의 이질성을 반영한 확률 모델링이 필수이며, 특히 위성 고도각 기반 코사인 가중치 모델이 구현 용이성·정확도 향상 두 마리 토끼를 잡는 최적 솔루션으로 제시된다.