거친 경로 기반 비선형 필터링 방정식의 차원 독립적 정합성

초록

본 논문은 관측 과정에 대한 거친 경로를 도입해 Zakai와 Kushner‑Stratonovich 필터링 방정식의 존재·유일성·안정성을 차원에 무관한 정규성 가정 하에 증명한다. 거친 필터링 방정식은 무작위화 시 기존 확률적 방정식과 일치하며, 새로운 거친 Riccati 방정식을 통해 Kalman‑Bucy 필터의 거친 버전도 제시한다.

상세 분석

이 연구는 기존의 확률적 필터링 이론에서 발생하는 ‘전방‑후방 마팅게일 구조 충돌’ 문제를 거친 경로 이론으로 회피한다. 저자들은 관측 신호 Y를 일반적인 (비기하학적) 레벨‑2 거친 경로 (Y,𝔜) 로 모델링하고, 이를 고정된 결정론적 입력으로 간주한다. 이렇게 하면 Zakai 방정식은 선형 거친 편미분 방정식(RPDE) 형태가 되고, Kushner‑Stratonovich 방정식은 비선형 RPDE가 된다. 핵심은 두 방정식 모두에 대해 ‘거친 조건부 파인만‑카크(Feynman‑Kac) 공식’과 ‘거친 Kallianpur‑Striebel 공식’을 구축함으로써, 확률적 기대값을 순수히 거친 해석으로 대체한다는 점이다.

정규성 가정은 신호·관측 계수 b,σ,f,h 가 모든 거친 경로 Y에 대해 균일하게 유계·리프시츠이며, f에 대해서는 추가적인 2차 미분 가능성(β‑Hölder 연속)만을 요구한다. 이러한 가정은 차원 d_X 가 커져도 강화되지 않으며, 기존 Sobolev 기반 방법(Du et al., 2013)에서 요구되는 고차 정규성 요구를 완전히 없앤다.

존재 증명은 거친 미분 방정식 이론(FHL25, BFS24)을 이용해 (X^Y,Z^Y) 를 구축하고, 이들의 연속 의존성을 통해 측정값 µ^Y_t 를 정의한다. µ^Y_t 의 존재는 연속적인 연산자 A^Y_t 와 Γ^Y_t 를 이용한 선형 RPDE 의 mild 해 존재와 동일시된다.

유일성은 ‘거친 전방‑후방 쌍대성’ 전략으로 얻는다. 후방 방정식은 거친 파라볼릭 PDE 로서 충분히 정규화된 해(예: C^{2+α} 공간) 를 갖으며, 전방 방정식의 측정값과 후방 해의 내적이 시간에 따라 보존됨을 Itô‑형 곱 규칙 대신 거친 곱 규칙을 이용해 증명한다. 이 과정에서 ‘거친 마팅게일’ 개념을 도입해 전방‑후방 마팅게일 구조의 불일치를 해소한다.

또한, 관측 잡음이 퇴화(degenerate)한 경우에도 동일한 프레임워크를 적용할 수 있음을 보이며, 이는 기존 연구에서 별도의 복잡한 Sobolev 추정이 필요했던 부분을 단순화한다.

마지막으로, 선형‑가우시안 신호에 대해 거친 Kalman‑Bucy 필터를 개발한다. 여기서는 평균과 공분산이 거친 Riccati 미분 방정식에 의해 진화하며, 이 방정식은 기존 확률적 Riccati SDE와는 달리 결정론적 거친 경로 입력에 대한 비선형 ODE 형태를 띤다. 비폭발성은 새로운 에너지 추정법과 거친 경로의 제어 가능성(Controlled Rough Paths)으로 보장된다.

전체적으로 이 논문은 ‘확률을 제거하고 거친 결정론적 구조로 전환’함으로써 차원에 독립적인 정합성을 확보하고, 수치 해석 및 강인 제어 응용에 유리한 새로운 이론적 기반을 제공한다.