AI와 데이터 동화가 만든 순수 데이터 기반 앙상블 예보 시스템 ClimaX‑LETKF

초록

본 논문은 실제 관측자료를 직접 동화하여 운용되는 최초의 순수 데이터‑기반 머신러닝 앙상블 기상예보 시스템 ClimaX‑LETKF를 제안한다. 20개의 앙상블 멤버와 LETKF를 활용해 NCEP ADP 전 지구 관측을 6시간 간격으로 동화하고, 두 종류의 공분산 팽창 기법(RTPS, RTPP)의 영향을 비교한다. 실험 결과, RTPP가 RMSE와 스프레드 모두에서 더 안정적이며, 기존 수치예보 모델(NWP)과는 달리 데이터‑기반 모델은 물리적 균형 회복 능력이 낮아 더 큰 팽창이 필요함을 확인한다.

상세 분석

ClimaX‑LETKF는 기존의 머신러닝 기반 날씨예측 모델이 ‘분석장’만을 제공하고 초기조건을 생성하지 못한다는 한계를 극복하기 위해 설계되었다. 핵심은 ClimaX라는 저해상도(5.625°) WeatherBench 기반 딥러닝 모델을 백그라운드 예보 엔진으로 사용하고, LETKF(Localized Ensemble Transform Kalman Filter)를 통해 실제 관측(NCEP ADP 전 지구 상층·지표 관측)을 직접 동화한다는 점이다. 20개의 앙상블 멤버를 사용한 이유는 실험적으로 40멤버와 거의 동일한 성능을 보였으며, 연산 효율성을 위해 최소화했다.

데이터 동화 단계에서는 관측 전처리(단위 변환·관측 얇게 만들기·오류 할당)와 관측 연산자에 의한 공간 보간을 수행한다. 관측 오류가 명시되지 않은 경우, 풍속 1 m s⁻¹, 온도 1 K, 습도 0.01 kg kg⁻¹, 기압 1 hPa의 상수값을 부여한다. gross‑error 체크는 관측‑배경 차이가 관측오차 표준편차의 10배를 초과하면 배제한다.

공분산 팽창 기법은 두 가지를 비교한다. RTPS(Relaxation to Prior Spread)는 분석 교차분산을 배경 표준편차에 맞춰 스케일링하는 전통적 방법이며, α 파라미터가 1.0이면 변동이 없고 1.3 정도가 최적으로 보였지만, 이 경우 2016년 초와 중반에 급격한 RMSE 상승이 관측되었다. 이는 스프레드 감소가 아니라 물리적 불균형(예: 모델 편향) 때문으로 해석된다. 반면 RTPP(Relaxation to Prior Perturbation)는 분석 교차분산을 배경 교차분산과 가중 평균(α)으로 교체한다. α=0.90에서 가장 낮은 RMSE와 스프레드가 RMSE와 거의 일치하는 최적 상태를 보였으며, 전 기간에 걸쳐 안정적인 성능을 유지했다. 이는 데이터‑기반 모델이 NWP보다 ‘덜 혼돈적’이며, 더 큰 팽창(α≈0.8‑0.9) 필요성을 시사한다.

공간적 분석에서는 온도(500 hPa), 700 hPa의 동쪽풍, 850 hPa의 남북풍, 지표압에 대해 배경 RMSE와 스프레드, 관측 수를 평균하였다. 저위도·중위도와 그린란드·남극 지역에서 스프레드가 과도하게 큰 반면, 고위도 해양에서는 과소 평가되는 경향을 보였다. 관측 수와 오류 사이에는 음의 피어슨 상관계수(−0.31~−0.45)가 존재해, 관측이 풍부한 지역일수록 오류가 감소함을 확인한다. 특히 남반구 고위도는 관측이 희박해 오류가 크게 나타난다. 지형 불일치가 큰 러시아·캐나다 지역에서는 관측이 많음에도 불구하고 압력 오류가 크게 나타났으며, 이는 모델 토포그래피와 실제 지형 차이 때문으로 판단된다.

예보 리드 타임 실험(5일, 6시간 간격)에서는 RTPP가 스프레드가 RMSE에 더 가깝게 증가하는 반면, RTPS는 초기 6 h에서 스프레드가 감소하고 이후 점진적으로 증가한다. 전체적으로 데이터‑기반 모델은 NWP보다 스프레드 증가 속도가 느려, 장기 예보에서 불확실성 추정이 과소될 위험이 있다. 이는 모델 자체가 물리적 비선형성을 충분히 재현하지 못함을 의미한다.

결론적으로, ClimaX‑LETKF는 순수 데이터‑기반 앙상블 시스템이 실제 관측을 안정적으로 동화할 수 있음을 증명했으며, 공분산 팽창 방법 선택이 모델 특성에 따라 크게 달라진다는 중요한 교훈을 제공한다. 향후 연구는 모델의 물리적 제약 강화, 고해상도 관측 동화, 그리고 더 큰 앙상블 규모를 통한 불확실성 표현 개선을 목표로 해야 한다.