동적 프로그래밍 기반 변분 상태 추정의 재귀 이론

초록

본 논문은 변분 상태 추정을 동적 프로그래밍 관점에서 재구성하여, 뒤쪽(후방)과 앞쪽(전방) 두 가지 가치 함수(recursion)를 도출한다. 이 가치 함수들은 각각 베이즈 후방 평활(likelihood)과 전방 필터링(unnormalized density)을 상한으로 갖으며, 최적 변분 필터는 O(T²) 복잡도를, 선형 근사 필터는 O(T) 복잡도를 가진다. 또한 두 사례(점프 가우스‑마코프 시스템, 로그‑다항 관측 모델)에서 제안 방법의 계산 가능성을 입증한다.

상세 분석

논문은 먼저 전통적인 베이즈 상태 추정의 전방·후방 재귀를 정리하고, 이를 변분 추정에 그대로 적용하려는 시도를 제시한다. 핵심 아이디어는 변분 사후분포 q₀:T 를 시간별 마코프 구조로 제한하고, 증거 하한(Evidence Lower Bound, ELBO)을 동적 프로그래밍의 최적 제어 문제로 변환하는 것이다. 이때 상태 마진 q_t 를 “상태”, 전이 커널 q_{t+1|t} 를 “제어”라 보고, 벨먼 방정식 형태의 가치 함수 V_t 를 정의한다.

뒤쪽(dynamic programming) 접근에서는 후방 가치 함수 β_t 를 정의하고, 이는 베이즈 후방 likelihood h_{t+1:T|t} 의 상한으로 증명된다(정리 3, 코롤러리 2). β_t 는 일반적으로 비정규화된 형태이며, 최적 q_t 를 구하기 위해 고정점 방정식(정리 1, 정리 2)과 결합한다. 앞쪽 접근에서는 전방 가치 함수 α_t 를 도입해, 이는 베이즈 전방 필터링의 비정규화 밀도 \barπ_{0:t}의 상한이다(정리 4, 코롤러리 3). α_t 와 β_t 를 곱한 뒤 정규화하면 두 필터(전방·후방)의 결합 형태인 “두‑필터 공식”이 도출되며, 이는 코롤러리 5에서 변분 사후의 마진이 상대 엔트로피 최적임을 보여준다.

계산 복잡도 측면에서 최적 변분 필터는 각 시간 단계에서 전체 과거와 미래를 모두 고려해야 하므로 O(T²) 시간이 필요하다. 이를 완화하기 위해 선형 근사(서브‑옵티멀 변분 필터)를 제안하고, 이는 α_t 혹은 β_t 를 각각 단순히 전방(또는 후방) 재귀만 사용해 O(T) 시간에 구현 가능하다.

또한 가치 함수 재귀가 일반적으로 비해석적(intractable)임을 인정하고, α_t 를 비정규화된 밀도로 해석해 변분 근사(예: 가우시안 가정)와 결합하면 Courts et al. (2021)에서 제안한 필터와 동일한 형태를 얻는다. 이는 변분 프레임워크가 기존 가정 밀도(Assumed Density) 방법을 원칙적으로 정당화한다는 의미다.

두 가지 사례 연구가 논문의 실용성을 입증한다. 첫 번째는 점프 가우스‑마코프 모델을 “점프와 상태가 독립적인 마코프 과정”으로 근사해, 후방·전방 가치 함수를 각각 점프와 상태에 대한 별도 업데이트로 분리한다. 두 번째는 로그‑다항 관측 모델을 가우시안 제약 하에 변분 근사함으로, α_t 와 β_t 가 모두 가우시안 형태를 유지해 폐쇄형 업데이트가 가능함을 보인다. 시뮬레이션 결과는 제안된 변분 필터가 기존 베이즈 필터와 비교해 정확도는 크게 떨어지지 않으며, 특히 선형 근사 버전이 실시간 적용에 충분히 효율적임을 확인한다. 전체적으로 논문은 변분 추정과 베이즈 추정 사이의 이론적 연결 고리를 명확히 제시하고, 동적 프로그래밍을 통한 재귀 구조를 제공함으로써 향후 복잡한 비선형·비가우시안 시스템에 대한 효율적 변분 필터 설계에 중요한 토대를 마련한다.