RSSS 모델의 빈도주의 예측과 확장 김 필터

초록

본 논문은 심리적 변화 과정, 특히 수학 전공 학생의 중도 탈락 의도를 다루기 위해 확장 김 필터를 기반으로 한 빈도주의 예측 방법을 제시한다. 기존 베이지안 접근의 계산 복잡성을 극복하고, 개인 내·외 요인이 전이 확률에 미치는 영향을 실시간으로 추정·예측할 수 있다. 시뮬레이션과 실제 데이터 분석을 통해 파라미터 복구와 상태·잠재 변수 예측 정확도를 검증하였다.

상세 분석

이 연구는 최근 확장된 비선형 레짐‑스위칭 상태공간(RSSS) 모델에 빈도주의 추정기를 도입함으로써 두 가지 중요한 공백을 메운다. 첫째, 기존의 베이지안 FFBS(전방 필터링·후방 샘플링) 방식은 사후 분포 전체를 추정해야 하므로 고차원 잠재 변수와 전이 확률을 동시에 다룰 때 계산 비용이 급격히 상승한다. 반면 저자들은 확장 김 필터를 활용해 예측 오차의 다변량 정규성을 가정하고, 근사 우도 함수를 통해 파라미터를 최대우도 추정한다. 이 과정에서 확장 칼만 필터와 확장 해밀턴 필터를 순차적으로 적용하고, ‘콜랩싱’ 절차를 통해 여러 레짐 조합을 하나의 가중 평균으로 압축한다는 점이 핵심이다.

둘째, 전이 확률을 개인 고유의 시간불변 요인(η₂)과 시간변동 요인(η₁) 및 그 상호작용까지 포함하도록 일반화하였다. 구체적으로 시그모이드 함수 안에 인터셉트, 개인 차원 효과, 내적 요인 효과, 그리고 내·외 요인 교차항을 배치함으로써, 개인의 특성 변화가 레짐 전이에 실시간으로 반영될 수 있게 설계했다. 이는 기존 모델이 전이 확률을 전체 집단에 대해 동일하게 가정하던 한계를 뛰어넘는 접근이다.

수학적 구현 측면에서는 측정 모델, 내부 구조 모델, 외부 구조 모델을 각각 선형·비선형 형태로 정의하고, 이들을 하나의 확장 상태공간으로 통합한다. 측정 모델에서는 레짐별 요인 적재 행렬 Λ₁ˢ와 오차 공분산 R₁ˢ를 도입해 관측값과 잠재 요인을 연결하고, 시간불변 요인 모델은 전통적인 확인적 요인 분석을 통해 베이즈가 아닌 빈도주의 팩터 점수를 산출한다. 내부 구조 모델은 레짐별 자기회귀(AR(1))와 개인 차원 회귀 효과를 포함하며, 외부 구조 모델은 레짐 전이 확률을 위에서 언급한 비선형 함수로 기술한다.

알고리즘 1은 이러한 구성 요소들을 순차적으로 업데이트한다. 각 시점 t에서 팩터 점수를 계산한 뒤, 확장 칼만 필터로 잠재 상태를 예측·업데이트하고, 확장 해밀턴 필터로 레짐별 전이 확률을 갱신한다. 마지막으로 콜랩싱 절차를 통해 레짐 조합을 압축하고, 근사 우도에 기반한 파라미터 업데이트를 수행한다. 수치적 헤시안 행렬의 음의 대각 원소를 방지하기 위해 조셉 형태의 공분산 업데이트를 적용한다는 점도 주목할 만하다.

시뮬레이션 결과는 파라미터 복구 정확도와 레짐·잠재 변수 예측 정확도가 모두 높은 수준임을 보여준다. 특히 전이 확률에 개인 차원 요인을 포함했을 때, 베이지안 대비 추정 편향이 감소하고 계산 시간이 크게 단축되는 효과가 확인되었다. 실제 데이터(수학 전공 학생의 감정·행동 로그) 적용에서는 탈락 의도 레짐을 실시간으로 포착하고, 향후 행동을 1~2시간 앞서 예측함으로써 조기 개입 가능성을 시사한다.

전반적으로 이 논문은 복잡한 레짐‑스위칭 구조와 다층 잠재 변수를 빈도주의 프레임워크 안에서 효율적으로 추정·예측할 수 있는 방법론을 제공한다. 확장 김 필터의 구현과 전이 확률의 동적 모델링은 향후 교육·임상·경제 데이터 등 다양한 분야에서 실시간 모니터링과 개입 전략을 설계하는 데 유용한 도구가 될 것이다.