동적 행렬 분해: 상태공간 기반 추천 모델

초록

본 논문은 확률적 행렬 분해(PMF)를 시간에 따라 변하는 사용자 선호를 모델링할 수 있도록 상태공간 모델로 확장한다. 사용자의 잠재 요인을 선형 가우시안 동역학으로 표현하고, 관측은 아이템 요인과의 선형 결합으로 정의한다. 칼만 필터와 Rauch‑Tung‑Striebel 스무터를 이용해 MAP 추정을 수행하고, 기대‑최대화(EM) 알고리즘으로 전이·관측 행렬 및 잡음 공분산을 학습한다. 합성 데이터 실험에서 제안된 협업 칼만 필터(CKF)가 기존 SVD·timeSVD보다 RMSE 측면에서 우수함을 보인다.

상세 분석

이 논문은 기존 확률적 행렬 분해(PMF)가 정적인 잠재 요인만을 학습한다는 한계를 인식하고, 시간에 따라 변하는 사용자 행동을 정량화하기 위해 선형‑가우시안 상태공간 모델을 도입한다. 구체적으로, 각 사용자 i의 잠재 요인 u_i(t)를 상태 변수 x_{i,t}로 두고, x_{i,t}=A_{i,t}x_{i,t-1}+w_{i,t} (w_{i,t}∼N(0,Q_{i,t})) 형태의 1차 마코프 프로세스로 가정한다. 아이템 요인 V는 상대적으로 느리게 변한다고 가정해 고정으로 두며, 관측 y_{i,t}=H_{i,t}x_{i,t}+z_{i,t} (z_{i,t}∼N(0,R_{i,t})) 로 표현한다. 여기서 H_{i,t}는 시간 t에 사용자 i가 평가한 아이템들의 V 행을 선택한 행렬이다. 이러한 설계는 기존 MF의 내적 o_{ij}=u_i^Tv_j와 완벽히 일치하면서도, 시간에 따른 변화를 자연스럽게 포함한다는 점에서 혁신적이다.

추정 단계에서는 각 사용자에 대해 독립적인 칼만 필터와 RTS 스무터를 적용해 전후 시점의 상태 추정값 ˆx_{i,t|t}와 공분산 P_{i,t|t}를 얻는다. 이를 “협업 칼만 필터(CKF)”라 명명하고, 모든 사용자가 동일한 아이템 행렬 V를 공유하도록 설계함으로써 협업 필터링의 핵심 아이디어를 유지한다. EM 알고리즘은 E‑step에서 현재 파라미터 하에 기대 로그우도를 계산하기 위해 CKF의 전·후방 결과를 활용하고, M‑step에서는 초기 상태 평균·공분산, 전이 행렬 A, 프로세스·관측 잡음 공분산(Q,R) 및 아이템 행렬 V를 최대우도 추정한다. 파라미터 수를 줄이기 위해 시간 불변성 가정(모든 A_i,t=A, Q_i,t=σ_Q^2 I 등)과 초기 상태 동질성(μ_i=0, Σ_i=σ_U^2 I)을 도입해 학습을 안정화한다.

실험에서는 실제 데이터보다 상태공간 모델에 부합하는 합성 데이터를 생성해, 샘플링 비율 0.5%의 극히 희소한 관측에서도 CKF가 RMSE를 크게 낮추는 것을 확인한다. 특히, 사용자 요인이 아크 형태로 움직이는 경우에도 CKF는 스무터를 통해 부드러운 궤적을 복원하지만, 기존 SVD는 정적, timeSVD는 선형 드리프트만 모델링해 큰 오차를 보인다. EM 수렴은 10~20번 반복에 이르면 안정되며, 파라미터 추정이 정확할 경우 칼만 스무터가 이론적 최적 하한에 근접한다는 점도 강조한다.

이 논문의 주요 강점은 (1) MF를 상태공간 모델에 자연스럽게 매핑함으로써 시간적 변화를 정형화, (2) 칼만 필터와 EM을 결합해 파라미터를 데이터 기반으로 학습, (3) 기존 휴리스틱 방법 대비 이론적 근거가 명확하고 성능이 우수함이다. 다만, 선형‑가우시안 가정이 실제 사용자 행동의 비선형·비정규성을 충분히 포착하지 못할 가능성이 있으며, 파라미터 수가 많아질 경우 EM의 계산 복잡도가 급증한다는 한계도 존재한다. 향후 연구에서는 비선형 확장(예: EKF, 파티클 필터)이나 딥러닝 기반 전이 행렬 학습, 실 데이터 적용을 통한 일반화 검증이 필요하다.