최적 수송 기반 앙상블 칼만 필터의 새로운 해석

본 논문은 연속시간 비선형 필터링 문제를 풀기 위한 Monte‑Carlo 기반 알고리즘, 특히 앙상블 칼만 필터(EnKF)와 피드백 파티클 필터(FPF)의 제어법을 체계적으로 재검토한다. 서론에서는 숨겨진 마코프 과정 \(X_t\)와 관측 과정 \(Z_t\)를 정의하고, 전통적인 파티클 필터가 중요도 샘플링과 재샘플링에 의존해 입자 퇴화 문제를 겪는 반면, 제어 기반 알고리즘은 입자에 균일 가중치를 부여해 이러한 문제를 회피한다는 점을 강조한다. 논문의 핵심 기여는 세 가지로 정리된다. 첫째, 선형‑가우시안 모델에서 제어법의 비유일성을 명확히 분석한다. 평균‑필드 표현 \(\bar X_t = \bar m_t + \xi_t\)를 도입하고, \(\xi_t\)의 동역학을 일반적인 선형 SDE 형태로 기술한다. 여기서 행렬 방정식 \(G_t \bar\Sigma_t + \bar\Sigma_t G_t^\top + \sigma_t\sigma_t^\top + \sigma^0_t(\sigma^0_t)^\top = \text{Ricc}(\bar\Sigma_t)\)를 만족하는 무수히 많은 \((G_t,\sigma_t,\sigma^0_t)\) 조합이 존재함을 보이며, 이는 기존 EnKF(교란 관측), 스퀘어‑루트 EnKF/FPF, 결정론적 FPF 등 다양한 알고리즘으로 귀결된다. 둘째, 이러한 비유일성을 해결하기 위해 필터링을 최적 수송 문제로 재정의한다. 시간‑스텝마다 사전분포를 사후분포로 옮기는 최적 전송 맵을 찾는 것이 목표이며, 비용 함수는 2‑Wasserstein 거리와 동일하게 설정한다. 선형‑가우시안 상황에서는 최적 전송 맵이 선형이며, 이에 대응하는 유일한 평균‑필드 제어법을 명시적으로 도출한다. 이 제어법을 ‘optimal transport FPF’라 명명하고, 공분산이 특이한 경우에는 확정적 전송 대신 확률적 커플링을 사용해 일반화한다. 셋째, 유한‑\(N\) 입자 시스템을 설계하고 그 수렴성을 정량적으로 분석한다. 제어법을 경험적으로 근사해 입자들의 SDE를 구성하고, 입자들의 경험적 평균 \(\mathbf{m}^{(N)}_t\)와 공분산 \(\mathbf{\Sigma}^{(N)}_t\)가 정확히 칼만 필터의 \((m_t,\Sigma_t)\)와 동일한 미분 방정식을 따른다. 이를 기반으로 다음과 같은 결과를 얻는다. (i) 평균·공분산이 거의 확실히 수렴한다(정리 2‑(i)). (ii) 평균제곱오차는 \(\|e_t\|^2 \le C e^{-\lambda t}\sqrt{N}\) 형태로 시간에 따라 지수 감쇠하고, 상수 \(C\)는 차원 \(d\)에 대해 다항식 의존성을 가진다(정리 2‑(ii)). (iii) 전파 혼돈 분석을 통해 \(N\to\infty\) 일 때 입자들의 경험적 분포가 약하게 정확한 사후분포에 수렴함을 증명한다(정리 1, 부록). 마지막으로, 차원 확장성을 평가하기 위해 단순화된 필터링 예제를 설정하고, 중요도 샘플링 기반 파티클 필터와 제어 기반 필터의 평균제곱오차를 비교한다. 중요도 샘플링은 정확도를 유지하려면 입자 수가 차원에 대해 지수적으로 증가해야 하지만, 제어 기반 알고리즘은 입자 수가 \(O(d^2)\) 수준이면 충분함을 이론적으로 증명한다(정리 4). 수치 실험(Fig. 1)도 이를 뒷받침한다. 전반적으로 이 논문은 EnKF와 FPF의 제어법을 최적 수송 관점에서 통합하고, 유일한 최적 제어법을 통해 오류와 수렴성을 엄밀히 분석함으로써 고차원 연속시간 필터링에 대한 새로운 이론적 기반을 제공한다. 또한, 기존 중요도 샘플링 방식과 비교해 제어 기반 방법의 차원 확장성 우수성을 정량적으로 설명함으로써 실무 적용 가능성을 크게 확대한다.