자동미분으로 학습하는 수직 좌표 체계

초록

본 논문은 대기 모델의 지형 따라 변하는 수직 좌표를 미분가능한 형태로 파라미터화하고, 자동미분을 이용해 정확한 기하학적 메트릭을 계산한다. 뉴럴 네트워크 기반의 NEUVE 좌표를 학습시켜 전통적인 하이브리드·SLEVE 좌표보다 오류를 1.4~2배 감소시키고, 급경사 지형에서 발생하던 인위적 수직 속도 스트라이프를 제거한다.

상세 분석

이 연구는 두 가지 혁신적인 아이디어를 결합한다. 첫 번째는 수직 좌표 변환을 완전 미분가능한 함수로 정의하고, JAX 기반의 자동미분(AD) 엔진을 활용해 좌표 변환의 미분계수(즉, 메트릭 텐서)를 수치적 근사가 아닌 기계정밀도 수준으로 얻는 것이다. 기존 방법에서는 좌표 파생을 유한 차분으로 근사하면서 발생하는 기하학적 truncation error가 압력 구배 계산에 큰 영향을 미쳐 급경사 지형에서 비물리적 가속을 초래했지만, AD를 사용함으로써 이러한 오류를 근본적으로 제거한다.

두 번째 혁신은 좌표 자체를 학습 가능한 파라미터화한다는 점이다. 기존의 하이브리드·SLEVE 좌표는 사전에 정의된 감쇠 함수와 고정된 스케일 파라미터(s, s₁, s₂)를 사용한다. 저자들은 다층 퍼셉트론(MLP)과 Softplus 활성화를 이용해 감쇠 함수 ρ₍ϕ₎(η)를 정의하고, 이를 적분해 단조성(monotonicity)과 경계조건(B(0)=1, B(H)=0)을 보장한다. 파라미터 ϕ는 시뮬레이션 손실(L_physics)과 정규화(L_reg)를 결합한 목적함수 J(ϕ)를 최소화하도록 Adam 최적화기로 업데이트된다. 손실은 선형 대류 테스트에서 분석 해와의 RMSE를 사용해 직접적인 수치 오차를 측정한다.

수치 실험은 2‑D 비정압 Euler 방정식을 Arakawa C‑grid에 2차 중심 차분·3차 SSP‑RK 시간 적분으로 구현한 뒤, 다양한 지형 프로파일(단일 산, 다중 산, 랜덤 베벨형)과 테스트 케이스(선형 대류, 비선형 밀도 전류)에서 기존 좌표와 비교한다. 결과는 다음과 같다. (1) NEUVE 좌표는 평균 RMSE를 1.4~2배 감소시켰으며, 특히 고도 3 km 이상에서 급격히 완만해지는 하이브리드·SLEVE 대비 더 균일한 오류 분포를 보였다. (2) 수직 속도 w의 스트라이프 현상이 거의 사라졌으며, 이는 정확한 메트릭 계산이 압력 구배 항의 상쇄를 제대로 수행했기 때문이다. (3) 학습된 좌표는 다양한 지형에 대해 일반화 능력을 보여, 훈련에 사용되지 않은 새로운 산맥에서도 비슷한 오류 감소 효과를 유지했다.

또한, 저자들은 파라미터 민감도 분석을 통해 3층, 64유닛 MLP가 충분히 표현력을 제공함을 확인했으며, 정규화 계수 λ를 조절해 과도한 좌표 왜곡을 방지했다. 자동미분 기반 메트릭 계산은 기존에 수동으로 파생식을 구현해야 했던 복잡성을 크게 낮추어, 향후 고차원·다중 물리 모듈(예: 습도, 복사)과의 결합에도 확장성을 제공한다. 마지막으로, 이 프레임워크는 “좌표 설계 자체를 최적화 문제”로 전환함으로써 전통적인 수치 기법과 머신러닝을 자연스럽게 융합하는 새로운 패러다임을 제시한다.