학생 t 분포 기반 강인·트렌드 추적 칼만 스무더

초록

본 논문은 관측 잡음에 Student’s t 분포를, 혹은 상태 변동에 Student’s t 분포를 적용한 두 종류의 비선형 칼만 스무더를 제안한다. T‑Robust 스무더는 외란에 강인하며, 50 % 이상 아웃라이어가 존재하는 경우에도 L1‑Laplace 스무더를 능가한다. T‑Trend 스무더는 급격한 모델 변화를 효과적으로 추적한다. 두 알고리즘은 Student’s t의 스케일 혼합 구조를 이용해 가중치 업데이트와 기존 L2 스무더의 반복 적용만으로 구현 가능하며, 수렴 이론과 실험을 통해 그 효율성을 입증한다.

상세 분석

이 논문은 칼만 스무딩 문제에 ‘Heavy‑Tail’ 특성을 갖는 Student’s t 분포를 도입함으로써 두 가지 새로운 추정기를 설계한다. 첫 번째인 T‑Robust 스무더는 프로세스 잡음은 전통적인 가우시안으로 유지하면서 관측 잡음만을 Student’s t 로 모델링한다. Student’s t 는 평균이 존재하지만 분산이 무한에 가까운 경우가 있어, 큰 잔차에 대해 자동으로 낮은 가중치를 부여한다. 이를 구현하기 위해 저자들은 Student’s t 를 ‘Inverse‑Gamma 가중치가 부여된 가우시안 혼합’ 형태로 표현하고, EM‑유사 알고리즘을 적용한다. 구체적으로, 각 관측 잔차에 대한 잠재 스케일 변수 w_i 를 도입하고, 현재 w_i 를 고정한 뒤 가중치가 적용된 L2 칼만 스무더(예: Rauch‑Tung‑Striebel 스무더)를 수행한다. 이후 w_i 를 업데이트하는 단계에서 w_i = (ν+1)/(ν+e_i²) 형태의 닫힌식이 사용되며, 여기서 ν는 자유도, e_i는 현재 잔차이다. 이 과정을 반복하면 목적 함수인 MAP 추정식이 단조 감소하고, 수렴점에서 1차 최적조건을 만족한다는 수학적 증명을 제공한다.

두 번째인 T‑Trend 스무더는 관측 잡음은 가우시안으로 두고, 프로세스 잡음에 Student’s t 를 적용한다. 이 경우 스무더는 상태 전이 단계에서 큰 변화를 허용하도록 가중치를 조정한다. 즉, 급격한 상태 변동이 발생하면 해당 프로세스 잔차에 대한 w_i 가 작아져 가중치가 감소하고, 스무더는 큰 변화를 ‘무시’하지 않고 그대로 반영한다. 이는 전통적인 칼만 스무더가 급격한 변화를 과도하게 평활화하는 문제를 해결한다.

알고리즘적 측면에서 두 스무더 모두 기존 L2 스무더에 ‘가중치 업데이트 → 가중치 적용 L2 스무더 → 가중치 재계산’의 루프를 삽입하는 형태로 구현된다. 복잡도는 기본 L2 스무더와 동일하게 O(N)이며, 비선형 모델에 대해서는 확장 칼만 스무더(IEKS)와 결합해 적용한다. 수렴 이론에서는 목적 함수가 하한을 가지며, 각 반복에서 감소함을 보이고, 고정점이 존재함을 증명한다. 실험에서는 합성 데이터와 실제 추적 데이터에 대해 아웃라이어 비율을 10 %부터 70 %까지 변화시키며 RMSE 를 비교하였다. T‑Robust 스무더는 50 % 이상 아웃라이어가 존재할 때도 RMSE 가 L1‑Laplace 스무더보다 30 % 이상 낮았으며, T‑Trend 스무더는 급격한 단계 변화가 있는 시나리오에서 전통적인 가우시안 스무더보다 추정 오차가 40 % 이상 감소하였다. 이러한 결과는 Student’s t 분포가 제공하는 ‘가중치 기반 자동 차단’ 메커니즘이 외란 및 급변 상황 모두에서 효과적임을 입증한다.