차원축소 숨은 마코프 모델

초록

RR‑HMM은 전이 행렬의 순위를 제한해 잠재 상태가 저차원 서브스페이스에서 진화하도록 설계된 모델이다. 이 구조는 k‑차원 벡터만으로 믿음(belief)을 표현해 계산량을 HMM의 k‑상태 버전과 동등하게 유지하면서도, m‑차원의 관측 공간을 활용해 복잡한 비선형 예측 분포를 표현한다. 논문은 기존 스펙트럴 학습법을 일반화해 순위‑k RR‑HMM의 관측 표현을 일관적으로 추정하고, 커널 밀도 추정과 결합해 고차원 연속 데이터도 효율적으로 모델링한다는 점을 강조한다. 실험 결과는 로봇 비전 등 실제 응용에서 기존 HMM·LDS 대비 예측 정확도와 시뮬레이션 품질이 우수함을 보여준다.

상세 분석

본 논문은 전통적인 숨은 마코프 모델(HMM)과 선형 동적 시스템(LDS)의 장점을 결합한 새로운 확률 모델인 차원축소 숨은 마코프 모델(RR‑HMM)을 제안한다. 핵심 아이디어는 전이 행렬의 순위를 k(≤m)로 제한함으로써 잠재 상태가 m‑차원 전체 공간이 아니라 k‑차원 선형 부분공간에서만 움직이게 하는 것이다. 이 설계는 두 가지 중요한 효과를 만든다. 첫째, 믿음(belief) 업데이트는 k‑차원 벡터만을 사용해 (\mathbb{R}^k)에서 수행되므로, 계산 복잡도는 k‑상태 HMM과 동일하게 유지된다. 둘째, 관측 모델은 여전히 m‑차원 공간에 정의되므로, 관측 분포는 비선형·비볼록 형태를 가질 수 있다. 따라서 RR‑HMM은 LDS가 제공하는 부드러운 연속 상태 전이와, 연속 관측 HMM이 제공하는 복잡한 확률 구조를 동시에 구현한다.

학습 측면에서는 Hsu·Kakade·Zhang(2009)의 스펙트럴 학습 프레임워크를 확장한다. 기존 방법은 전이·관측 행렬이 완전 순위(full rank)라는 가정하에 관측 연산자를 분해해 파라미터를 직접 추정한다. 논문은 이 가정을 “순위‑k”로 완화하고, 관측 연산자를 k‑차원으로 압축한 새로운 observable representation을 도출한다. 핵심은 삼중 행렬(관측, 전이, 관측‑전이)의 저차원 SVD를 이용해 실질적인 파라미터 추정이 아닌, 관측 가능한 선형 연산자 집합을 학습하는 것이다. 이 과정은 비선형 최적화가 필요 없으며, 충분히 큰 샘플이 주어지면 일관성(consistency)을 보장한다. 또한, 단일 관측만으로는 상태를 구분하기 어려운 경우를 위해 “블록 관측”(여러 연속 관측을 하나의 복합 관측으로 처리) 기법을 제안해 알고리즘을 일반화한다.

연속 고차원 데이터에 대한 적용을 위해 논문은 커널 밀도 추정(KDE)을 결합한다. 관측 확률을 직접 파라미터화하는 대신, KDE를 사용해 관측 공간에서의 확률 밀도를 비모수적으로 추정하고, 이를 스펙트럴 학습 단계에서 필요한 관측 연산자 행렬에 삽입한다. 이 접근법은 특히 이미지나 로봇 비전처럼 차원이 매우 높은 경우에도 효율적인 메모리 사용과 빠른 연산을 가능하게 한다.

실험에서는 (1) 합성 데이터에서 순위‑k 전이 행렬을 정확히 복원하는지, (2) 간단한 비디오 시퀀스에서 움직임을 부드럽게 모델링하는지, (3) 로봇 팔의 비전 센서 데이터를 이용해 복잡한 관측 분포를 학습하는지를 평가한다. 모든 실험에서 RR‑HMM은 동일한 파라미터 수를 가진 표준 HMM보다 높은 로그우도와 낮은 예측 오류를 기록했으며, LDS 대비 비선형 관측을 효과적으로 포착해 시뮬레이션 품질이 크게 향상되었다.

결론적으로, RR‑HMM은 “저차원 선형 상태 전이 + 고차원 비선형 관측”이라는 구조적 이점을 통해 기존 모델들의 한계를 극복한다. 스펙트럴 학습 기반의 비최적화적 추정, KDE와의 결합, 블록 관측 확장 등은 실용적인 대규모 연속 데이터 처리에 강력한 도구가 된다. 향후 연구에서는 비선형 전이(예: 저차원 비선형 흐름)와 온라인 학습으로의 확장이 기대된다.