불확실성을 고려한 변분 데이터 동화: 변분 추론 기반 접근

초록

**
본 논문은 기존의 결정론적 CODA(Combined Optimization of Dynamics and Assimilation) 모델을 확장하여, 예측 상태를 다변량 가우시안 분포로 표현하는 변분 추론 기반 프레임워크를 제안한다. 혼돈적인 Lorenz‑96 시스템을 실험 대상으로 삼아, 제안 방법이 높은 캘리브레이션 정확도와 낮은 CRPS를 달성함을 보이고, 또한 긴 동화 윈도우를 활용한 4D‑Var 파이프라인에 효과적으로 통합될 수 있음을 입증한다.

**

상세 분석

**
이 연구는 데이터 동화 문제를 확률적 관점에서 재구성한다. 전통적인 4D‑Var나 Kalman‑type 방법은 상태 추정에 대한 사후분포를 명시적으로 제공하지 못하거나, 고차원 시스템에서 계산 비용이 급증한다는 한계가 있다. 저자들은 이러한 문제를 해결하기 위해, 관측 윈도우 전체를 입력으로 받는 딥 뉴럴 네트워크 Gθ를 설계하고, 출력으로 상태 평균 μt와 표준편차 σt(대각 공분산 행렬)를 반환하도록 확장하였다. 핵심은 손실함수(식 6)에서 두 가지 요소를 결합한 점이다. 첫 번째는 관측 오차를 기대값 형태로 평균화한 MSE 항으로, 이는 기존 CODA의 관측 일치 항과 동일하게 동작한다. 두 번째는 미래 시점 t + h에서의 변분 사후분포 q_{t+h}와, 현재 분포 q_t를 모델 동역학 M(h)으로 전파한 분포 q_{t→t+h} 사이의 KL 발산을 근사하는 항이다. 직접적인 KL 계산이 불가능하므로, q_{t→t+h}의 엔트로피를 추가함으로써 변분 하한을 구성한다. 이때 λ 하이퍼파라미터는 엔트로피 항의 가중치를 조절하여 불확실성 캘리브레이션을 제어한다. λ=0이면 분산이 0으로 수축해 결정론적 모델이 되며, λ가 클수록 분산이 확대돼 과도한 불확실성을 초래한다는 실험 결과가 제시된다.

실험은 n=40, F=8인 Lorenz‑96 시스템을 사용했으며, 관측 연산자 H는 매 시점마다 75% 변수를 무작위 마스킹하고, 남은 변수는 표준 정규 잡음이 추가된 형태다. 평가 지표는 CRPS, SSREL, SSRA_T를 포함한다. 결과적으로 변분 CODA는 데이터 양이 충분히 클 때(10⁶ 타임스텝) 가장 낮은 CRPS와 SSREL≈0을 기록했으며, 스프레드‑스킬 플롯이 1:1 선에 가깝게 나타나 캘리브레이션이 거의 완벽함을 보여준다. 드롭아웃 기반 모델과 5‑model 앙상블은 작은 데이터셋에서는 경쟁력을 보였지만, 대규모 데이터에서는 변분 모델에 비해 스프레드‑스킬 불일치가 크게 나타났다.

또한, 학습된 변분 CODA를 기존 4D‑Var 비용함수에 초기값 및 배경/전경 사전분포로 활용하는 실험을 수행했다. 여기서는 비용함수 J에 초기 평균 μ₀와 공분산 Σ₀, 그리고 최종 시점 μ_T, Σ_T를 정규화된 제약항으로 추가한다(β,γ 파라미터). 실험 결과, 긴 동화 윈도우(최대 10⁵ 타임스텝)에서 CODA 초기화와 배경/전경 사전분포를 모두 사용한 변형이 가장 낮은 평균 제곱오차를 달성했으며, 순수 4D‑Var(배경 사전분포 없이)보다 월등히 좋은 성능을 보였다. 이는 변분 모델이 제공하는 고품질 사전분포가 장시간 동화 과정에서 오류 전파를 억제하고, 최적화 수렴을 가속화한다는 점을 시사한다.

전체적으로 이 논문은 (1) 관측‑동역학 일관성을 변분 손실에 통합한 새로운 학습 프레임워크, (2) 대규모 혼돈 시스템에서 캘리브레이션된 불확실성 추정이 가능함을 실증, (3) 변분 모델을 기존 변분 데이터 동화 파이프라인에 자연스럽게 삽입해 성능을 향상시킬 수 있음을 입증한다는 세 가지 주요 기여를 제공한다. 향후 연구는 비대각 공분산 구조, 비가우시안 사후분포, 그리고 실제 해양·기상 관측 데이터에 대한 적용을 통해 확장성을 검증할 필요가 있다.

**