동적 요인 추출의 평균제곱오차: 주성분, 선형투영 및 칼만필터 비교

초록

본 논문은 대규모 단면(N) 시계열에서 요인을 추출할 때 주성분(PC), 선형투영(LP), 칼만필터(KF) 방법의 유한 N 평균제곱오차(MSE)를 비교한다. 아이디오시크라틱 잡음의 교차상관 구조를 다르게 가정하고, 완전 공분산, 대각선, 구형(동질) 가정의 세 경우를 분석한다. 결과는 PC 기반 요인이 결정론적 가정을 전제로 하여 KF·LP 기반 요인보다 MSE가 크게 나타나며, 특히 이질적(heteroscedastic) 잡음과 높은 요인 지속성(persistence) 상황에서 KF가 가장 효율적임을 보여준다.

상세 분석

이 연구는 동적 요인모델(DFM)에서 요인 추출 방법의 유한표본 성능을 정량적으로 평가한다는 점에서 기존의 비대칭적 비대수적 접근과 차별화된다. 저자는 먼저 요인과 로딩을 알려진 것으로 가정하고, √N‑일관성을 확보하기 위해 T가 N보다 충분히 커야 한다는 조건(√N/T→0)을 명시한다. 이 가정 하에 PC 기반 추정은 최소제곱(LS) 형태로 해석되며, 요인을 고정된 비확률적 실현값으로 보는 ‘deterministic factor’ 가정에 기반한다. 반면 LP는 요인을 i.i.d. 무작위 변수로, KF는 요인의 자기상관 구조를 명시적으로 모델링하는 ‘stochastic factor’ 가정에 따라 조건부 평균을 추정한다.

핵심 이론적 결과는 MSE 행렬의 구조적 차이에 있다. (1) 완전 공분산 Σε를 정확히 이용한 경우, 모든 추정법의 MSE 행렬이 대각형이며, 이는 요인 간 상관이 없음을 의미한다. (2) Σε를 대각선 혹은 구형으로 오인하면 비대각 원소가 생겨 요인 추정치 간 인위적 상관이 발생한다. (3) 동일한 Σε 구조를 가정했을 때, LS(PC)보다 LP가 MSE가 작으며, 차이는 음의 준정부호 행렬로 표현된다. 이는 무작위 요인을 조건부 평균으로 추정함으로써 불확실성을 감소시키는 효과를 반영한다. (4) KF와 LP 간 차이는 요인 지속성(autoregressive 파라미터)의 크기에 민감하다. 지속성이 클수록 KF가 LP보다 현저히 작은 MSE를 보이며, 이는 KF가 동적 상태공정(state-space) 모델을 활용해 시간적 정보를 최적 활용하기 때문이다.

또한 저자는 9가지 추정 조합(완전/대각선/구형 Σε × LS/LP/KF)을 모두 분석하고, MSE가 O(N⁻¹) 속도로 0에 수렴함을 증명한다. 따라서 N이 충분히 크면 모든 방법이 √N‑일관성을 달성하지만, 작은 N 혹은 중간 규모(N≈T)에서는 KF가 가장 낮은 MSE를 제공한다는 실용적 권고를 제시한다.

실증 부분에서는 시뮬레이션을 통해 이론적 MSE 차이를 재현한다. 특히 이질적 이디오시크라틱 변동성을 갖는 경우, PC가 Σε를 완전하게 추정하지 못해 MSE가 크게 상승하고, 반면 KF는 사전 지정된 Σε 구조(예: 대각선)만으로도 상당히 효율적인 추정치를 제공한다. 이는 실제 거시·금융 데이터에서 고차원 공분산 행렬을 정확히 추정하기 어려운 현실을 반영한다.

결론적으로, 요인 자체가 정책지표나 위험지표 등으로 직접 활용되는 상황에서는 KF 기반 추정이 가장 신뢰할 만한 불확실성 측정을 가능하게 하며, 특히 요인 지속성이 높고 N이 제한적인 경우에 그 우위가 두드러진다.