고차원 비선형 시스템을 위한 향상된 데이터 동화 기법

초록

본 논문은 고차원 비선형·비가우시안 시스템에 적용 가능한 새로운 필터인 Ensemble Gaussian Sum Filter(EnGSF)를 제안한다. Gaussian sum 전개를 이용해 다중 가우시안 커널로 사후 확률밀도함수를 근사함으로써 기존 Ensemble Kalman Filter(EnKF)의 가우시안 가정에 따른 한계를 극복하고, 입자 수가 증가함에 따라 평균제곱오차가 크게 감소함을 실험을 통해 입증한다.

상세 분석

EnGSF는 기존 EnKF와 SIS(Sequential Importance Sampling) 필터의 장점을 결합한 형태로, 사전 확률밀도(p(x))를 다수의 가우시안 커널(α_i, x_i, Σ_i)의 가중합으로 표현한다. 이때 각 커널의 가중치 α_i는 사전 밀도값에 비례하도록 초기화되며, Σ_i는 Silverman‑Scott 규칙을 변형한 식 Σ_f = N^(−2/(m+2)) P_e 로 결정한다. 여기서 N은 입자 수, m은 상태 차원, P_e는 가중 평균을 이용한 경험적 공분산이다. 이러한 선택은 고차원에서 과도한 평활화를 방지하고, 실제 비가우시안 형태를 보다 정밀히 포착한다.

베이즈 업데이트 단계에서는 각 가우시안 성분에 대해 정규선형 관측 모델 y = Hx + r (r∼N(0,R))을 적용해 분석 단계의 파라미터(α_i^a, x_i^a, Σ_i^a)를 폐쇄형으로 계산한다. 식 (9)–(11)은 전통적인 가우시안 합 필터와 동일하지만, 여기서 사용되는 사전 공분산 Σ_f는 입자 집합의 통계량에 기반하므로, 비선형 전파 과정에서 발생하는 비가우시안 효과를 자연스럽게 반영한다.

예측 단계에서는 각 입자를 비선형 동역학 x_{k+1}=f(x_k)+η_k (η_k∼N(0,Q))에 따라 전진 통합하고, 공분산 Q_i를 Σ_f 로 대체한다. 이는 EKF에서 요구되는 야코비안 계산을 회피하면서도, 입자 간 상관성을 유지한다.

입자 가중치의 편중(퇴화) 문제를 완화하기 위해 효과 입자 수 N_eff = 1/(∑α_i^2) 를 모니터링하고, 일정 임계값 이하가 되면 시스템적 재샘플링을 수행한다. 재샘플링은 가중치를 균등하게 재분배하고, 각 입자의 평균과 공분산을 보존하도록 설계되어, 필터의 안정성을 보장한다.

실험에서는 Lorenz‑63, Lorenz‑96 등 강한 비선형성을 가진 모델에 대해 EnGSF와 EnKF, SIS를 비교하였다. 결과는 입자 수가 100~500 사이일 때 EnGSF가 평균제곱오차(MSE)를 30%~50% 정도 감소시키며, 입자 수가 증가함에 따라 수렴 속도가 EnKF보다 빠른 것을 보여준다. 또한, 비가우시안 분포(예: 다중 모드) 상황에서도 EnGSF는 모드 간 전이를 정확히 포착해, 전통적인 EnKF가 발생시키는 모드 붕괴 현상을 방지한다.

전반적으로 EnGSF는 고차원 비선형·비가우시안 데이터 동화 문제에서 계산 복잡도는 O(N·m) 수준을 유지하면서, 가우시안 가정에 얽매이지 않는 유연한 확률밀도 근사를 제공한다는 점에서 의미가 크다.