열대 태평양 데이터 동화 방법 비교: SEEK 필터와 R4DVar 및 하이브리드

초록

본 논문은 열대 태평양 모델을 이용한 트윈 실험에서, 차원 축소 기반 순차적 데이터 동화인 SEEK 필터와 변분형 데이터 동화인 R4DVar를 비교한다. 두 방법 모두 온도 프로파일을 제한된 관측(TAO/TRITON)으로 동화했으며, 선형성(준선형) 구간에서는 비슷한 성능을 보였다. 그러나 비선형성이 강해지는 열대 불안정 파동(TIW) 발생 시, 전역 최적화를 수행하는 R4DVar가 모델 동역학을 더 잘 제어했으며, 순차적 SEEK 필터보다 우수했다. 또한 두 방법을 결합한 하이브리드 접근법은 전반적으로 약간 더 나은 결과를 제공한다는 점이 확인되었다.

상세 분석

본 연구는 데이터 동화 기법의 효율성을 평가하기 위해 ‘트윈 실험’이라는 이상적인 설정을 채택하였다. 즉, 동일한 모델을 이용해 ‘진실(Truth)’ 데이터를 생성하고, 이를 관측 오류를 부여한 후 동화 실험에 활용하였다. 이 과정에서 모델 오차를 배제함으로써 순수히 알고리즘 자체의 성능 차이를 드러낼 수 있었다. 두 주요 방법은 차원 축소를 기반으로 한다는 점에서 공통점을 갖지만, 구현 방식에서 근본적인 차이를 보인다. SEEK 필터는 순차적(시간 순서대로)으로 관측을 assimilate하면서, 사전 공분산 행렬을 저차원 서브스페이스(주성분)로 표현한다. 이때 공분산은 매 시간 단계마다 관측과 모델 전진을 통해 업데이트되며, 비선형 효과가 강하면 공분산의 선형 근사가 한계에 부딪힌다. 반면 R4DVar는 변분 원리를 이용해 전체 시간 창(window) 내에서 관측과 모델을 동시에 최적화한다. 공분산은 사전 단계에서 고정된 저차원 기반으로 정의되지만, 비용 함수의 전역 최소화를 통해 비선형 상호작용을 보다 효과적으로 반영한다.

실험은 두 가지 물리적 상황을 설정하였다. 첫 번째는 ‘준선형’ regime으로, 해수 온도 구배가 비교적 완만하고 TIW와 같은 강한 비선형 현상이 나타나지 않는다. 이 경우 SEEK와 R4DVar 모두 관측 오류를 크게 감소시켰으며, RMSE 차이가 미미했다. 특히, 저차원 기반이 충분히 풍부하면 순차적 접근법도 전역 최적화와 동등한 성능을 낼 수 있음을 보여준다.

두 번째는 ‘비선형’ regime으로, 열대 불안정 파동이 발생해 온도 구조가 급격히 변한다. 여기서 R4DVar는 전체 시간 창을 활용해 파동 발생 전후의 상태를 동시에 고려함으로써, 파동의 위상과 진폭을 보다 정확히 재구성한다. 반면 SEEK 필터는 매 시간 단계마다 선형화된 공분산을 사용하므로, 급격한 변화에 적응하는 데 한계가 있다. 결과적으로, 비선형 구간에서는 R4DVar가 RMSE와 스펙트럼 분석 모두에서 우수한 성능을 보였다.

하이브리드 접근법은 R4DVar의 변분 프레임워크 안에 SEEK와 동일한 공분산 진화를 삽입한 형태이다. 즉, 매 분석 단계마다 공분산을 순차적으로 업데이트하면서, 전체 시간 창에 대한 변분 최적화를 수행한다. 이 설계는 두 방법의 장점을 결합하려는 시도로, 실험 결과는 약간의 성능 향상을 확인했다. 특히, 비선형 구간에서 R4DVar만큼은 아니지만, 순차적 방법보다 더 안정적인 결과를 제공했다.

이러한 결과는 데이터 양이 제한적이고 모델 오차가 없을 때, 변분 기반 전역 최적화가 비선형 현상을 제어하는 데 유리함을 시사한다. 그러나 실제 운영 환경에서는 모델 오차와 관측 불확실성이 크게 작용하므로, 하이브리드 구조가 실용적인 절충점이 될 가능성이 높다. 향후 연구에서는 모델 오류를 포함한 실험, 관측 네트워크 확대, 그리고 고차원 공분산 근사의 효율성을 검증할 필요가 있다.