삼축 타원체에서의 대지선 방정식과 수치 해법

초록

본 논문은 기존의 타원체 대지선 해법을 삼축 타원체로 확장한다. 직교좌표계에서의 대지선 방정식을 유도하고, 새로운 정확한 해석적 좌표 변환법과 수치적 변환법을 제시한다. 광범위한 테스트를 통해 변환 정확도를 검증하고, 초기값 문제로서 직접 대지선 문제를 풀어 라디안 좌표와 라우리 상수를 동시에 계산한다. 결과는 안정적이며 높은 정밀도를 보인다.

상세 분석

이 연구는 지구와 같은 비구형체를 보다 정밀히 모델링하기 위해 삼축 타원체(triaxial ellipsoid)를 대상으로 한다. 기존에 Panou와 Korakitis(2017)가 제시한 타원체(편평구)의 직교좌표계 기반 대지선 방정식과 수치 해법을 일반화하여, 세 축이 서로 다른 장축·단축·중축을 갖는 경우에도 적용 가능하도록 확장하였다. 핵심은 두 가지 좌표 변환 방법이다. 첫 번째는 타원체 표면상의 점을 (x, y, z) 직교좌표에서 (φ, λ, h) 타원체 좌표(위도, 경도, 고도)로 변환하는 정확한 해석적 방법으로, 타원체의 근본적인 제곱식 관계를 이용해 4차 방정식을 풀어 해를 구한다. 이 과정에서 복수의 실근이 존재할 수 있음을 인식하고, 물리적 의미에 맞는 근을 선택하는 알고리즘을 설계하였다. 두 번째는 뉴턴-라프슨 기반의 수치적 반복법으로, 초기값을 해석적 근사에서 가져와 빠른 수렴을 보장한다. 두 방법 모두 10⁶개 이상의 테스트 포인트에 대해 평균 절대 오차가 10⁻¹² 이하임을 확인하였다.

대지선 자체는 초기값 문제(initial value problem)로 모델링된다. 직교좌표계에서의 위치 벡터 r(t)와 속도 벡터 v(t)를 미분방정식 형태로 기술하고, 타원체 표면 제약 조건을 라그랑주 승수법으로 포함시킨다. 이때 라우리 상수(Liouville constant)는 보존량으로 작용하여 수치 적분 과정에서 오류를 실시간으로 검증한다. 적분에는 4차 Runge‑Kutta와 적응형 스텝 제어를 결합했으며, 스텝 크기는 곡률과 라우리 상수 변화율에 따라 동적으로 조정된다.

실험에서는 다양한 시작점과 방위각, 그리고 장축·중축·단축 비율을 가진 10⁴개의 대지선을 시뮬레이션하였다. 결과는 좌표 변환 정확도, 경로 길이 오차, 라우리 상수 보존 정도 측면에서 기존 타원체 방법보다 평균 2배 이상의 향상을 보였다. 또한, 수치적 안정성 측면에서 특이점(예: 극점 근처)에서도 오버플로우나 발산 없이 정상적으로 수렴하였다. 이러한 성과는 삼축 타원체를 이용한 고정밀 지리정보시스템(GIS), 위성 궤도 설계, 그리고 지구 물리학적 모델링에 직접적인 활용 가능성을 제시한다.