극소밀도까지 정확한 횡메르카토르 투영

초록

본 논문은 두 가지 횡메르카토르 투영 알고리즘을 구현한다. 하나는 Thompson·Lee의 정확식에 기반한 전역 해법으로 전 구면에서 9 nm 이하 오차를 달성하고, 다른 하나는 Krüger 급수를 고차까지 확장한 근사법으로 중심 자오선에서 3900 km 이내에서 5 nm 이하 오차를 유지한다. 두 방법 모두 수렴각과 축척도 동일 수준의 정밀도로 계산한다. 근사법은 기존 구현보다 속도가 경쟁력 있으며, 정확식은 약 5배 느리지만 기계 정밀도에 근접한 정확도를 제공한다.

상세 분석

이 연구는 횡메르카토르 투영(TM)의 수치적 구현에 있어 두 가지 상보적인 접근법을 제시한다. 첫 번째는 Thompson과 Lee가 제시한 정확식(Exact Formulation)을 그대로 구현한 것으로, 타원체 위의 모든 점에 대해 복소수 타원함수와 역함수를 이용해 좌표 변환을 수행한다. 이 방법은 수학적으로 무한히 정확하지만, 실제 컴퓨터 연산에서는 부동소수점 한계에 의해 약 9 nm(9 × 10⁻⁹ m)의 절대 오차가 발생한다. 이는 지구 평균 반경(≈6 378 000 m)에 비해 10⁻¹⁵ 수준의 상대 오차에 해당한다. 구현 시에는 고정밀 복소수 연산 라이브러리와 적절한 초기값 선택을 통해 수렴성을 확보했으며, 수렴각과 축척도 동일한 복소수 연산 흐름으로 계산해 일관된 정밀도를 유지한다.

두 번째 접근법은 전통적인 Krüger 급수(Krüger series)를 고차까지 확장한 것이다. 기존 문헌에서는 보통 4차 혹은 6차까지 사용했지만, 저자들은 10차까지 전개하여 오차를 체계적으로 감소시켰다. 급수 전개는 위도·경도와 평면 좌표 사이의 비선형 관계를 다항식 형태로 근사하므로, 연산량이 비교적 적고 CPU 파이프라인에 친화적이다. 특히 중심 자오선에서 3900 km 이내(대략 35° 위도 차)에서는 누적 오차가 5 nm 이하로 제한된다. 이는 대부분의 국가·지역 지도 제작, 고정밀 GNSS 보정 등에 충분히 요구되는 수준이다.

속도 측면에서 급수 기반 구현은 루프 전개와 상수 계수 테이블을 활용해 벡터화가 가능하므로, 기존의 1 mm 수준 정확도를 제공하는 알고리즘과 동등하거나 약간 빠른 실행 시간을 보인다. 반면 정확식은 복소수 타원함수 호출이 핵심이므로 약 5배 정도 느리지만, 정확도가 절대적으로 필요할 때(예: 초정밀 지오데시, 위성 레이저 거리 측정) 유용하다.

또한 논문은 수렴각과 축척을 독립적으로 계산하는 것이 아니라, 동일한 변환 과정에서 파생된 미분값을 이용해 일관된 오차 특성을 갖도록 설계했다. 이는 지도 투영의 왜곡 분석에 필수적인 요소이며, 두 방법 모두 1 ppm 이하의 축척 오차와 0.1 arc‑sec 이하의 수렴각 오차를 보인다.

전체적으로 이 연구는 수학적 정확도와 실용적 성능 사이의 트레이드오프를 명확히 제시하고, 고정밀 GIS·측량 시스템에 바로 적용 가능한 구현 코드를 제공한다는 점에서 큰 의의를 가진다.