스위칭 선형 동역학 시스템 베이지안 비모수 학습

본 논문은 복잡한 시계열 데이터가 시간에 따라 서로 다른 선형 동역학 모드로 전이하는 현상을 포괄적으로 모델링하기 위해, 베이지안 비모수적 접근법을 제안한다. 연구 배경으로는 기존의 스위칭 선형 동역학 시스템(SLDS)과 스위칭 벡터 자기회귀(VAR) 모델이 모드 수와 차원을 사전에 고정해야 하는 한계가 있다. 이를 극복하기 위해 저자들은 계층적 디리클레 과정(HDP)을 기반으로 한 스티키 HDP‑HMM을 확장하고, 자동 관련성 판단(ARD) 메커니즘을 도입하여 각 모드별로 필요한 상태 차원과 VAR 차수를 자동으로 선택하도록 설계하였다. 먼저, SLDS와 VAR 모델을 수식적으로 정의한다. SLDS는 숨겨진 마코프 체인 z_t가 각 시점의 선형 상태 전이 행렬 A(z_t)와 잡음 공분산 Σ(z_t)를 결정하고, 관측은 Cx_t + w_t 형태로 표현된다. VAR 모델은 직접 관측 y_t가 과거 r시점의 관측과 선형 결합된 형태로 기술된다. 두 모델 모두 모드 전이가 마코프성을 가지며, 모드 지속성을 반영하기 위해 스티키 파라미터 κ를 포함한 HDP‑HMM 구조를 채택한다. 구체적으로 전이 행렬 π_j는 DP(α+κ, (αβ+κδ_j)/(α+κ))에서 샘플링되어, 자기 전이 확률이 κ에 비례해 증가한다. 동적 파라미터에 대한 사전은 정규‑와이샤트(또는 인버스‑와이샤트) 형태를 사용해 공액성을 유지한다. ARD는 각 모드 k의 동적 행렬 A(k)와 공분산 Σ(k)에 대한 하이퍼파라미터 λ_k를 도입해, 불필요한 차원이나 고차 자기회귀 계수를 자동으로 0에 가깝게 수축시킨다. 이를 통해 모드마다 서로 다른 차원·차수를 갖는 모델을 하나의 프레임워크 안에서 학습할 수 있다. 추론 알고리즘은 트렁케이트된 디리클레 과정 근사와 Gibbs 샘플링을 결합한다. 구체적인 단계는 다음과 같다. (1) 현재 모드 시퀀스와 파라미터를 고정하고, 연속 상태 x₁:T를 칼만 스무딩/샘플링으로 업데이트한다. (2) x₁:T와 관측 y₁:T를 이용해 전이 행렬 π_k와 모드 시퀀스 z₁:T를 블록드 샘플링한다. 전이 행렬은 디리클레 사후를 이용해 샘플링하고, 모드 시퀀스는 전방‑후방 알고리즘을 확장한 형태로 추정한다. (3) 각 모드의 동적 파라미터 A(k), Σ(k)와 측정 잡음 R을 정규‑와이샤트 사후로 샘플링한다. ARD 하이퍼파라미터 λ_k 역시 감마 사전으로부터 샘플링한다. 트렁케이션 단계에서는 활성 모드 수 K를 제한해 계산 복잡도를 제어한다. 실험에서는 네 가지 데이터셋을 사용해 모델의 효용성을 검증한다. 합성 데이터에서는 실제 모드 수와 차원을 정확히 복원했으며, 모드 전이 패턴이 복잡한 경우에도 안정적인 추정이 가능함을 보였다. 벌꿀벌 무용 데이터에서는 개별 벌의 움직임을 몇 개의 의미 있는 모드(예: 와글, 회전, 직선 이동)로 구분했으며, 각 모드가 서로 다른 상태 차원을 갖는 것을 확인했다. 브라질 주식지수(IBOVESPA)에서는 경기 변동과 정책 충격을 각각 다른 선형 모드로 포착해, 전통적인 ARIMA 모델보다 변동성을 더 잘 설명했다. 마지막으로, 목표 추적 시뮬레이션에서는 급격한 기동을 포함한 복합 궤적을 적은 수의 모드와 가변 차원 상태로 정확히 추정했으며, 실시간 추적 성능도 기존 방법보다 우수했다. 결론적으로, 본 논문은 HDP‑HMM에 스티키 확장을 도입하고 ARD를 결합함으로써, 모드 수·차원·차수를 사후 확률적으로 추정하는 강력한 비모수적 SLDS/VAR 프레임워크를 제공한다. 트렁케이트된 DP와 효율적인 Gibbs 샘플러를 통해 계산 효율성도 확보했으며, 다양한 실제 응용 분야에서 모델의 유연성과 해석 가능성을 입증하였다.