고해상도 수치예보 기반 대기 굴절률 모델과 안정적인 비균일 평면파 레이 트레이싱

초록

본 논문은 기존 저궤도(LEO) 위성 통신 링크 분석에서 대기 굴절률 재구성 정확도와 비균일 평면파 레이 트레이싱의 수치 불안정성이라는 두 가지 주요 문제를 해결한다. 수치예보(NWP) 데이터를 활용해 고해상도 3차원 복소 굴절률 모델을 구축하고, 극히 작은 손실 항에서도 이중 정밀도에서 안정적으로 동작하는 새로운 비균일 평면파 레이 트레이싱 알고리즘을 제안한다. 실험 결과, 제안 방법은 고정밀 기준 대비 24배 빠른 계산 속도를 보이며, 비균일 평면파와 균일 평면파 모델 간의 보레시 오류와 경로 손실 차이가 거의 없음을 확인한다. 따라서 실제 LEO 링크 설계에서는 기존의 균일 평면파 모델을 그대로 사용해도 충분함을 입증한다.

상세 분석

이 연구는 두 차원의 기술적 난제를 동시에 해결한다. 첫 번째는 대기 굴절률의 공간적·시간적 변동성을 정확히 포착하는 문제이다. 기존 라디오소네 데이터는 관측소가 희소하고, 보간 방법에 따라 큰 오차가 발생한다. 저자들은 한국에 특화된 수치예보 모델(KIM)을 이용해 온도·압력·습도·강수·구름 입자 농도 등을 0.1°(약 11 km) 격자로 3차원 복소 굴절률(Ñ)으로 변환하였다. 복소 굴절률 Ñ = Ndry + Nwv + Ncloud + Nrain 형태로 구성되며, 실험에 사용된 18 GHz 주파수 대역에서 손실 계수 κ는 10⁻¹⁰ ~ 10⁻⁷ 수준으로 매우 작다. 이러한 고해상도 모델은 기존 라디오소네 기반 보간 결과와 비교했을 때, 특히 강수와 구름이 집중된 지역에서 훨씬 정밀한 굴절률 분포를 제공한다.

두 번째 난제는 복소 굴절률 매질에서 발생하는 비균일 평면파(non‑uniform plane wave, NPW)의 수치적 불안정성이다. 손실 항이 극소인 경우, 기존 Chang et al.의 공식은 N과 K(각각 위상·감쇠 방향의 유효 굴절률) 계산 시 n² − κ² 형태의 차감 연산이 발생해 이중 정밀도에서 언더플로우가 일어나며, 결과적으로 감쇠량이 0에 수렴하는 오류가 나타난다. 저자들은 이를 해결하기 위해 a = n₁² − κ₁², b = n₁κ₁, c = cos(θᵢ − ψᵢ) 등으로 변수 재정의하고, r = ac/b 형태의 비율을 이용해 K₁, K₂를 안정적인 식으로 전환하였다. 또한 매질 II에서는 N⁴ − (A + B)N² + AB − D² = 0 형태의 4차 방정식으로 변환해 물리적으로 허용되는 근만을 선택한다. 이 과정은 모든 연산을 이중 정밀도 내에서 수행하면서도 손실 항이 10⁻⁸ 수준 이하일 때도 정확한 감쇠와 위상 변화를 계산한다.

실험에서는 단일 계면 굴절 시나리오와 실제 LEO 다운링크 시뮬레이션 두 가지를 수행하였다. 단일 계면 테스트에서는 κ₂가 κ₁보다 클 때 K₂·cosαₜ ≈ κ₂ 관계가 유지되어 감쇠가 거의 변하지 않으며, κ₂ < κ₁인 경우에만 미세한 차이가 발생한다. LEO 시뮬레이션에서는 2 km 고도에서 10 km 고도까지 3차원 굴절률 필드를 2D 단면으로 추출해, 균일 평면파, Chang의 장기 정밀도 구현, 그리고 제안 알고리즘을 적용하였다. 세 방법 모두 경로와 누적 손실이 거의 일치했으며, 특히 보레시 오류는 0.01° 이하 차이로 수렴했다. 이는 대기 손실이 매우 약해 위상 굴절이 실질적으로 실재 굴절률의 실수부에 의해 지배되고, 복소 부분은 감쇠만을 담당한다는 물리적 해석과 일치한다.

결과적으로, 고해상도 NWP 기반 복소 굴절률 모델은 기존 라디오소네 기반 모델보다 현장 기상 상황을 더 정확히 반영한다. 그러나 비균일 평면파가 이론적으로 존재하더라도, 실제 LEO 링크 거리(수백 km)와 약한 손실 조건에서는 균일 평면파 가정이 충분히 정확하다. 제안된 수치 안정화 알고리즘은 이중 정밀도 환경에서도 24배 빠른 실행 속도를 제공하며, 실시간 핸드오버·링크 어드저스트먼트와 같은 실용적인 시스템에 바로 적용 가능하다.