강인하고 희소한 칼만 스무딩을 위한 PLQ 기반 이론

초록

본 논문은 Piecewise Linear‑Quadratic (PLQ) 손실 함수를 이용해 칼만 스무딩을 일반화한다. PLQ 손실을 확률 밀도의 음의 로그로 해석하는 통계적 조건을 제시하고, 내부점(IP) 알고리즘을 통해 시간 단계 수 N에 대해 선형 복잡도(O(N))를 유지하면서 비정형(비스무스) 비용을 최소화한다. L2, L1, Huber, Vapnik 등 주요 손실이 특수 사례로 포함된다.

상세 분석

이 논문은 기존의 2차(Quadratic) 칼만 스무더가 가우시안 잡음 가정에만 최적이라는 한계를 인식하고, 보다 일반적인 비가우시안 잡음 모델을 다루기 위해 PLQ(조각선형‑이차) 손실 함수를 도입한다. PLQ는 다면체(polyhedral) 집합 U와 반정밀 반정규 행렬 M을 이용해 θ_{U,M}(w)=sup_{u∈U}{⟨u,w⟩−½⟨u,Mu⟩} 로 정의되며, 이는 볼록하면서도 조각별로 선형·이차 형태를 가진다. 논문은 먼저 PLQ 손실이 실제 확률 밀도의 음의 로그가 되기 위한 충분조건을 제시한다. 핵심은 ρ(y)=θ_{U,M}(b+By) 형태의 함수가 coercive(무한대로 갈 때 값이 무한히 커짐)이어야 적분가능함을 보이는 정리 2.5와, coercivity를 Bᵀcone(U)ᶜ={0} 로 판정하는 정리 2.6이다. 이를 통해 L2, L1, Huber, Vapnik 손실이 모두 정규화 가능한 확률 모델에 대응함을 증명한다.

통계적 프레임워크가 확립되면, 상태공정식 x_k=G_k x_{k-1}+w_k와 관측식 z_k=H_k x_k+v_k에 대해 w_k와 v_k가 각각 PLQ 밀도를 따르는 경우 MAP 추정 문제를 (3.3) 형태로 기술한다. 이 문제는 다변량 확장선형이차 프로그램(ELQP)으로 변환되며, KKT 조건을 전개하면 (3.4)와 같은 구조화된 비선형 방정식 집합을 얻는다. 여기서 중요한 점은 제약 행렬 A_w, A_v가 다면체 형태이므로 KKT 시스템이 블록 대각·삼각 구조를 유지한다는 것이다.

알고리즘적 측면에서는 내부점(IP) 방법을 적용한다. 보완성 조건 (s·q=0)을 μ>0인 평활화된 형태로 바꾸고, 뉴턴 단계에서 블록 트라이디아곤 구조를 이용해 선형 시스템을 O(N n³) 시간에 해결한다. n은 상태 차원, m은 관측 차원이며, IP 반복 횟수는 일반적으로 10~20회로 고정될 수 있다. 따라서 전체 복잡도는 O(N n³ + N m)이며, 이는 전통적인 Mayne‑Fraser 혹은 Rauch‑Tung‑Striebel 알고리즘과 동일한 선형‑시간 스케일을 유지한다.

마지막으로, 논문은 L2, L1, Huber, Vapnik 네 가지 손실이 모두 정리 2.6의 조건을 만족함을 확인하고, 기존 연구(Aravkin et al., 2011; Ohlsson et al., 2011 등)를 하나의 통합 프레임워크로 포괄한다. 즉, 강인성(아웃라이어에 대한 저항)과 희소성(특정 상태 변화에 대한 선택적 강조)을 동시에 달성할 수 있는 일반화된 칼만 스무더가 제안된 것이다.