고차원 VAR 모델에서 베이지안 수축: 지역‑전역 사전의 우수성

초록

본 연구는 고차원 벡터자기회귀(VAR) 모델의 과다 파라미터화와 랙 차수 불확실성을 해결하기 위해 세 가지 베이지안 수축 사전(말굽, 라소, 정규)과 두 가지 빈도주의 정규화 방법(릿지, 비모수 수축)을 비교한다. 저차원 과적합, 고차원 희소, 그리고 차원·과적합이 동시에 발생하는 세 시뮬레이션 시나리오에서 파라미터 추정 정확도(RMSE, 커버리지, 구간 길이)와 1단계 예측 RMSE를 평가한다. 결과는 지역‑전역 베이지안 사전, 특히 말굽이 정확한 커버리지와 낮은 파라미터 오차를 유지하며, 릿지는 점예측에서는 경쟁력을 보이지만 불확실성을 과소평가한다는 점을 보여준다. 캐나다 거시경제 데이터 실증에서도 동일한 결론이 확인된다.

상세 분석

이 논문은 고차원 VAR(p) 모델이 d·p개의 회귀계수를 포함함에 따라 차원 저주와 과적합 위험이 급증한다는 점을 출발점으로 삼는다. 저자들은 베이지안 접근에서 지역‑전역 구조를 갖는 말굽 사전, 라소 사전, 그리고 전역만을 적용하는 정규(리지를 모방) 사전을 설정하고, 동일한 LKJ 기반 공분산 사전으로 오차공분산 Σε를 공동 추정한다. 말굽 사전은 각 계수 βj에 대해 로컬 스케일 λj와 글로벌 스케일 τ를 독립적인 Cauchy 사전으로 두어, 대부분의 작은 계수는 강하게 수축하고, 몇몇 큰 신호는 무거운 꼬리 덕분에 자유롭게 추정되도록 설계된다. 라소 사전은 Laplace 사전으로 ℓ1 패널티를 구현해 중간 규모 신호까지도 강하게 억제한다. 정규 사전은 전역적인 ℓ2 패널티를 제공해 계수를 균일하게 0에 끌어당기지만, 고차원·소표본 상황에서 사후 불확실성을 과소평가하는 경향이 있다.

빈도주의 대안으로는 릿지 회귀와 비모수(James‑Stein식) 수축을 선택한다. 릿지는 λ=0.1이라는 고정값을 사용해 전역적인 ℓ2 규제를 적용하고, 비모수 수축은 Giannone et al. (2015)의 경험적 베이즈 방식으로 공분산을 직접 축소한다. 두 방법 모두 부트스트랩을 통해 표준오차를 추정하고, 95% 신뢰구간을 구성한다.

시뮬레이션 설계는 세 가지 시나리오를 포함한다. (1) d=3, p*=1, p=4인 저차원 과적합 상황; (2) d=20, p*=1, p=1인 고차원 희소 상황; (3) d=20, p*=1, p=4인 고차원 과적합 상황. 각 시나리오는 50번의 복제 실험을 거쳐 훈련(180)과 테스트(20) 데이터를 생성한다. 계수 행렬 A1은 sparsity=0.7 비율로 0을 할당하고, 나머지는 Uniform(-0.4,0.4)에서 추출한다. 스펙트럼 반경을 1.1배로 조정해 안정성을 확보한다.

평가 지표는 파라미터 RMSE, 커버리지 비율, 평균 구간 길이, 그리고 1단계 예측 RMSE이다. 결과는 다음과 같다. 말굽 사전은 모든 시나리오에서 파라미터 RMSE를 최소화하고, 95% 신뢰구간 커버리지를 거의 명목 수준(≈95%)에 가깝게 유지한다. 라소는 말굽보다는 약간 높은 RMSE와 다소 낮은 커버리지를 보이지만, 정규보다 확연히 우수하다. 정규 사전은 가장 짧은 구간을 제공하지만, 과적합이 심한 경우 커버리지가 80% 이하로 떨어진다. 릿지는 예측 RMSE 측면에서 경쟁력을 보이며, 특히 고차원·과적합 시나리오에서 가장 낮은 예측 오차를 기록한다. 그러나 사후 불확실성 추정이 부족해 커버리지가 70% 수준에 머문다. 비모수 수축은 계산 효율성이 높지만, 복잡한 모델에서는 커버리지가 현저히 낮고, 파라미터 RMSE도 중간 수준에 머문다.

실증 분석에서는 캐나다의 8개 거시경제 변수(실업률, 인플레이션, GDP 성장률 등)를 사용해 VAR(1)VAR(4) 모델을 추정한다. 샘플 크기는 120개월로 제한적이며, 따라서 차원·시간 제한이 뚜렷하다. 결과는 시뮬레이션과 일치한다. 말굽 사전은 4차 랙까지 과잉 지정해도 파라미터 추정이 안정적이며, 95% 신뢰구간이 명목 수준을 유지한다. 릿지는 12차 랙에서 가장 낮은 예측 RMSE를 보였지만, 4차 랙에서는 불확실성 과소평가가 두드러졌다.

전반적으로 논문은 지역‑전역 베이지안 사전, 특히 말굽이 고차원·과적합 상황에서 파라미터 회복력과 불확실성 정량화에 있어 최적임을 실증과 시뮬레이션을 통해 설득력 있게 입증한다. 빈도주의 정규화는 점예측에서는 유용하지만, 베이지안 접근이 제공하는 전반적 불확실성 평가와 비교했을 때 한계가 있음을 강조한다.