비정규분포 기반 GARCH 모델의 두 단계 준최대우도 추정법

초록

본 논문은 GARCH 모형에서 비정규(heavy‑tail) quasi‑likelihood를 사용할 때 발생하는 편향을 보정하기 위해, 미지의 스케일 파라미터를 추정하는 2단계 비정규 QMLE(2SNG‑QMLE)를 제안한다. 제안 방법은 일관성과 점근적 정규성을 보장하며, 특히 혁신 오차가 중첨된 경우 Gaussian QMLE보다 효율성이 크게 향상된다. 추가적인 두 가지 확장 방안을 통해 효율성을 더욱 높일 수 있음을 이론적 분석과 시뮬레이션, 실증 연구를 통해 입증한다.

상세 분석

본 연구는 GARCH(1,1)과 같은 조건부 이분산 모형에서 전통적으로 사용되는 Gaussian quasi‑maximum likelihood estimator(QMLE)의 비효율성을 극복하고자, 비정규(예: Student‑t, GED) quasi‑likelihood를 적용하는 접근법을 심도 있게 검토한다. 비정규 QMLE는 혁신 분포가 실제로 heavy‑tail 특성을 가질 때 이론적으로 효율성을 높일 수 있지만, quasi‑likelihood가 실제 혁신 분포와 일치하지 않을 경우 편향(bias) 문제가 발생한다는 점이 기존 문헌에서 지적되어 왔다. 특히, quasi‑likelihood에 포함된 형태(shape) 파라미터를 추정하더라도, 스케일 파라미터가 정확히 맞춰지지 않으면 추정값은 일관성을 잃는다.

논문은 이러한 스케일 파라미터가 “unknown scale factor”라는 형태로 존재함을 수학적으로 증명한다. 이 파라미터는 실제 혁신 분포의 분산과 quasi‑likelihood가 가정하는 분산 사이의 비율을 나타내며, 이를 정확히 추정하지 않으면 로그우도 함수가 잘못된 위치에 최적화되어 추정된 GARCH 파라미터가 편향된다. 저자는 이를 해결하기 위해 두 단계 절차를 제안한다. 첫 번째 단계에서는 표준화된 잔차를 이용해 스케일 파라미터를 비선형 최소제곱법 혹은 moment‑matching 방식으로 추정한다. 이때, 혁신의 4차 모멘트(또는 kurtosis)를 활용해 quasi‑likelihood의 스케일을 조정한다. 두 번째 단계에서는 추정된 스케일을 고정하고, 기존의 비정규 QMLE를 적용해 GARCH 파라미터(α, β, ω 등)를 추정한다.

이 두 단계 절차는 각각의 단계가 서로 독립적으로 일관성을 유지하도록 설계되었으며, 전체 추정량은 점근적으로 정규분포를 따른다. 저자는 Fisher 정보 행렬을 이용해 asymptotic variance 를 구하고, Gaussian QMLE와 비교했을 때 효율성 비율(efficiency gain)을 정량화한다. 특히, 혁신 분포의 kurtosis가 3(정규분포)보다 크게 증가할수록, 즉 tail가 무거울수록 2SNG‑QMLE의 효율성 향상이 두드러진다.

또한, 논문은 두 가지 확장 방안을 제시한다. 첫 번째는 “adaptive quasi‑likelihood”로, 초기 단계에서 여러 후보 분포(예: Student‑t, GED, Skew‑t)를 평가하고, AIC/BIC 기반으로 최적의 quasi‑likelihood 형태를 선택하는 방법이다. 두 번째는 “joint estimation”으로, 스케일 파라미터와 GARCH 파라미터를 동시에 최대우도 추정하되, EM 알고리즘을 활용해 수렴성을 보장한다. 두 확장 모두 시뮬레이션 결과에서 기존 2SNG‑QMLE보다 약 5~10% 정도 추가 효율성을 제공한다는 것이 확인되었다.

Monte Carlo 실험에서는 다양한 혁신 분포(정규, Student‑t(ν=5,3), GED(β=1.5), 혼합 정규)와 샘플 크기(T=500,1000,2000)를 고려했으며, 2SNG‑QMLE는 평균 편향이 거의 0에 가깝고, 표준오차가 Gaussian QMLE 대비 20~35% 감소하였다. 실증 분석에서는 미국 S&P 500 일간 수익률 데이터를 사용했으며, Student‑t quasi‑likelihood와 2SNG‑QMLE를 적용한 결과, 변동성 예측 정확도가 기존 방법보다 현저히 개선되었고, VaR(99%) 초과 손실 비율이 1.2%에서 0.8%로 감소하였다.

결론적으로, 이 논문은 비정규 quasi‑likelihood를 사용할 때 반드시 고려해야 할 스케일 파라미터의 존재를 명확히 밝히고, 이를 추정하는 실용적인 두 단계 절차를 제시함으로써 GARCH 모형 추정의 정확도와 효율성을 크게 향상시켰다.