구조적 변동 속 오학습: 위험 프리미엄의 미학습 강도와 시장·패시브 구조의 상호작용

본 논문은 “구조적 변동 속 오학습”이라는 새로운 연구 주제를 제시한다. 전통적인 자산가격 모형은 위험 프리미엄이 시간에 따라 변동할 수 있음을 인정하지만, 대부분은 투자자가 이러한 변동을 정확히 인식하고 학습한다는 전제하에 분석한다. 저자는 투자자가 구조적 변동(점프)을 과소평가하고, 오히려 안정적인 베이지안 모델을 고수한다는 ‘모델 오식별(Misspecification)’ 상황을 가정한다. 이를 위해 두 가지 상태공정을 정의한다. 첫 번째는 실제 데이터 생성 과정을 나타내는 ‘점프 모델(B)’으로, 기대 프리미엄 λₜ가 선형 전이와 확률적 점프 Jₜ를 포함한다(식 2‑3). 두 번째는 투자자가 믿는 ‘안정 모델(S)’으로, 점프를 전혀 고려하지 않고 상태 변동성을 과소추정한다(식 4‑6). 이 두 모델이 생성하는 일단계 예측밀도 p_B와 p_S의 로그비율을 오학습 강도 Δₜ=log p_B/p_S 로 정의한다. Δₜ는 순전히 과거 정보(Fₜ₋₁)만을 사용해 계산되므로 포트폴리오 형성 시점에 관측 가능하며, 앞선 연구에서 제시된 ‘예측 가능도 비율’을 활용한 KL‑다이버전스의 근사치 역할을 한다. 이론적 분석에서는 네 가지 주요 명제를 제시한다. 1) **느린 업데이트**: 구조적 변동이 발생하면 투자자는 칼만 이득이 작아 신념이 서서히 조정되며, 편향이 다수 기간에 걸쳐 지속된다. 2) **오학습 스파이크**: 변동 직후 Δₜ가 급격히 상승하고, 점프 평균 μ_J가 클수록 상승 폭이 커진다. 3) **불확실성 프리미엄**: Δₜ가 높은 시점에 자산은 불확실성 프리미엄을 제공해 장기(12‑36개월) 샤프 비율이 상승한다. 4) **조건부 교차섹션 관계**: 구조적 변동 빈도 π와 평균 오학습 사이의 단조적 관계는 점프 규모 μ_J가 비교적 동질적인 저IVOL 환경에서만 성립한다. 실증 설계는 다음과 같다. 1) 데이터는 미국 주식시장의 주요 팩터(FF6, q5)와 150여 개 애노말리(가격·수익률·거래량 기반)로 구성한다. 2) 두 모델의 예측밀도는 칼만 필터와 점프-칼만 필터를 각각 적용해 추정한다. 3) Δₜ는 월별로 계산하고, 3‑12개월 선행 기간의 수익, 샤프, 최대 손실, 하방 반감도 등을 종속 변수로 하는 회귀분석을 수행한다. 4) 패시브 자본 비중을 기관별(ETF, 인덱스펀드) 보유량으로 측정하고, 상호작용 항을 포함한 구조적 회귀모델을 추정한다. 주요 실증 결과는 세 부분으로 요약된다. **(1) 팩터 시스템**: Δₜ가 상위 20%에 해당하는 시점에 12개월 누적 수익률이 평균 5.2% 상승하고, 샤프 비율이 0.17 포인트 상승한다. 이는 ‘불확실성 프리미엄’ 가설을 뒷받침한다. 반면, 단기(1‑3개월) 성과는 오히려 약간 감소하지만, 이는 일시적 가격 반전으로 해석된다. **(2) 애노말리 우주**: Δₜ가 높은 경우 6개월 평균 손실이 1.4% 증가하고, 하방 반감도(Downside Semivolatility)가 12% 상승한다. 특히 ‘모멘텀·가치’ 계열 애노말리에서 이러한 효과가 두드러지며, ‘리밋 투 아비트라지(Limit to Arbitrage)’가 강한 환경에서 오학습이 위험 측정 지표와 직접 연결된다. **(3) 패시브 자본의 역할**: 패시브 비중이 높은 시점(상위 30%)에서는 Δₜ가 높은 자산의 미래 샤프 보상이 0.05 포인트 이하로 감소하고, 누적 수익률이 2%~3% 낮아진다. 대신 변동성 급등과 손실 발생 확률이 상승한다. 이는 패시브 자본이 오학습 자체를 억제하기보다, 오학습이 가격에 반영되는 메커니즘을 ‘보상→위험 실현’으로 전환시키는 구조적 변조자임을 시사한다. 추가적으로, IVOL(아이디얼 변동성) 지표를 활용한 서브샘플 분석에서 저IVOL(하위 25%) 구간에서는 구조적 변동 빈도 π와 평균 Δₜ 사이에 강한 양의 상관관계(r≈0.62)가 관측되었다. 반면 고IVOL(상위 25%) 구간에서는 상관관계가 약해지고, 점프 규모 μ_J의 이질성이 커져 교차섹션 관계가 붕괴된다. 이는 ‘구조적 불확실성’이 시장 마찰에 따라 다르게 작동한다는 중요한 함의를 제공한다. 결론적으로, 이 논문은 (1) 구조적 변동을 무시한 베이지안 학습이 지속적인 오학습을 초래하고, (2) 오학습이 상황에 따라 장기 프리미엄 또는 단기 위험으로 전환되는 조건을 명확히 규정하며, (3) 패시브 투자 확대가 오학습의 ‘전달 메커니즘’을 재구성한다는 세 가지 주요 기여를 한다. 이러한 발견은 행동 재무학, 모델 불확실성, 그리고 현대 시장 구조(패시브 vs. 액티브) 연구에 새로운 이론적·실증적 토대를 제공한다.