DL 날씨 예측 백본 비교 분석 Navier Stokes와 실제 대기 동역학

초록

본 연구는 합성 2차원 Navier‑Stokes 흐름과 실제 전 지구 기상 데이터(WeatherBench)를 이용해 U‑Net, ConvLSTM, SwinTransformer, Graph Neural Network, Fourier Neural Operator 등 주요 딥러닝 백본을 동일한 훈련·평가 조건에서 비교한다. 합성 데이터에서는 FNO 계열이 가장 낮은 RMSE를 기록했으며, 실제 기상 예측에서는 ConvLSTM과 SwinTransformer가 14일 이내 단기·중기 예보에서 우수한 성능을 보였다. 1년 이상 장기 롤아웃에서는 구면 표현을 사용하는 GraphCast와 Spherical FNO가 물리적 일관성과 안정성 측면에서 뛰어났다.

상세 분석

이 논문은 딥러닝 기반 날씨 예측 모델의 백본 선택이 예측 정확도, 계산 효율성, 물리적 일관성에 미치는 영향을 체계적으로 규명한다. 먼저 64×64 격자에서 Reynolds 수 10³와 10⁴의 두 가지 난류 수준을 갖는 2차원 Navier‑Stokes 데이터를 생성하고, 입력 히스토리 10프레임을 기반으로 자동회귀 방식으로 미래 상태를 예측하도록 설계하였다. 실험 1‑3에서 파라미터 수를 5×10⁴에서 1.28×10⁸까지 다양하게 조정한 결과, TFNO(텐서‑분해 기반 FNO)가 전반적으로 가장 낮은 RMSE를 달성했으며, 그 뒤를 SwinTransformer, U‑Net, ConvLSTM 순으로 나타났다. 특히 파라미터 수가 1 M 이하일 때도 TFNO는 다른 백본보다 우수한 스케일링 특성을 보였으며, 데이터 양을 1 k에서 10 k 샘플로 확대해도 순위 변화가 거의 없었다. 이는 주파수 도메인 연산을 활용하는 FNO 계열이 물리적 연산을 효율적으로 학습한다는 점을 시사한다.

실제 기상 데이터 실험에서는 ERA5 재분석을 기반으로 5.625° 해상도(64×32)와 6시간 간격을 갖는 8개의 핵심 변수(위도·경도, 지형, 토양‑해양 마스크, 온도·풍속·지오포텐셜 등)를 선택하였다. 모델들은 동일한 훈련 프로토콜(AdamW, cosine decay, 200 epoch)과 동일한 파라미터 규모(5 × 10⁴~1.28 × 10⁸)로 학습되었으며, RMSE와 Anomaly Correlation Coefficient(ACC)를 통해 3, 5, 7일 선행 예측 성능을 평가하였다. 결과는 ConvLSTM이 가장 낮은 RMSE와 높은 ACC를 기록했으며, 그 뒤를 SwinTransformer와 FourCastNet(AFNO) 기반 모델이 잇는다. 이는 순환 구조가 시간적 연속성을 효과적으로 포착함을 보여준다.

장기 롤아웃(365일 이상)에서는 구면 메쉬(HEALPix) 기반 GraphCast와 Spherical FNO가 수치적 안정성(발산 방지)과 물리적 일관성(에너지 보존, 제트 스트림 재현)에서 두드러졌다. 특히 GraphCast는 메시 기반 메시지 패싱을 통해 지역적 해상도와 전역적 상호작용을 동시에 모델링함으로써, 장기간 시뮬레이션에서도 흐름 구조가 붕괴되지 않았다. 반면, 전통적인 U‑Net·ConvLSTM·SwinTransformer는 시간 경과에 따라 오류가 누적돼 비현실적인 온도·풍속 패턴을 생성하였다.

또한, 파라미터 효율성 측면에서 Figure 1이 보여주듯 ConvLSTM은 1 M 파라미터 기준으로 메모리 사용량과 학습 시간에서 가장 경제적이었다. 반면, FNO 계열은 파라미터당 연산량이 많아 GPU 메모리 요구가 크지만, 높은 정확도를 유지한다. 따라서 실시간 운영 환경에서는 ConvLSTM·SwinTransformer가, 연구·고해상도 시뮬레이션에서는 FNO·GraphCast가 각각 적합하다고 결론지을 수 있다.

마지막으로, 모델 규모 확대에 따른 성능 포화 현상이 관찰되었다. 파라미터를 10 M 이상으로 늘려도 RMSE 감소폭이 미미했으며, 이는 현재 데이터와 훈련 스케줄이 모델 용량을 충분히 활용하지 못한다는 점을 암시한다. 향후 데이터 양·다양성 확대와 물리적 제약(예: 보존 법칙) 기반 손실 함수 도입이 필요하다.