비정상 확장 휘틀 추정법

초록

본 논문은 장기 기억 시계열 모델에서 상관은 없지만 종속적인 오차를 갖는 경우, 약한 조건 하에 휘틀 추정량의 점근 정규성을 증명한다. 또한 비정상적인 분수 적분 과정을 다루기 위해 비정상 확장 휘틀 추정법을 제안하고, 기존의 테이퍼드 휘틀 추정법보다 효율성이 높음을 이론과 시뮬레이션으로 확인한다.

상세 분석

논문은 먼저 장기 기억(long memory) 특성을 가진 시계열, 특히 FARIMA(p,d,q) 모델에 GARCH형 이노베이션이 결합된 경우를 고려한다. 이러한 과정은 전통적인 휘틀(Whittle) 추정법이 요구하는 독립·동분산 가정이 깨지므로, 기존 문헌에서는 강한 모멘트 가정이나 복잡한 가중치 함수를 도입해 왔다. 저자는 “uncorrelated but dependent errors”라는 가정을 도입하여, 오차가 평균 0, 공분산이 0이지만 고차 모멘트에서 종속성을 유지한다는 점을 강조한다. 이 조건 하에서 휘틀 로그우도 함수의 근사식이 여전히 유효함을 보이기 위해, 주파수 영역에서의 스펙트럼 밀도 추정이 점근적으로 일관임을 증명한다. 핵심은 오차의 의존 구조가 스펙트럼의 낮은 주파수 영역에만 미미하게 영향을 미치며, 이는 장기 기억 지수 d가 0.5 이하인 경우에도 적용 가능하다는 점이다.

비정상(non‑stationary) 경우, 즉 d≥0.5인 분수 적분 과정에 대해서는 기존 휘틀 추정법이 편향을 보인다. 이를 해결하기 위해 저자는 Abadir, Distaso, Giraitis(2007)의 아이디어를 확장한다. 구체적으로, 차분 연산을 적용한 후에도 남는 비정상성을 보정하기 위해 “extended Whittle likelihood”를 정의하고, 차분 차수와 d̂를 동시에 추정한다. 이때 사용되는 가중치 함수는 전통적인 테이퍼링(tapering) 방식보다 더 부드러운 형태를 취해, 고주파 잡음에 대한 민감도를 낮추면서도 저주파에서의 정보 손실을 최소화한다.

점근 이론 부분에서는, 확장된 휘틀 추정량이 √n‑consistency와 점근 정규성을 갖는 것을 보여준다. 특히, 정보 행렬의 구조를 상세히 분석하여, 테이퍼드 휘틀 추정량 대비 효율성(Asymptotic Relative Efficiency)이 1보다 크다는 결과를 도출한다. 이는 비정상 과정에서도 정확한 d̂를 얻을 수 있음을 의미한다. 또한, GARCH‑type 혁신을 포함한 경우에도 동일한 점근 결과가 유지됨을 증명함으로써, 실무에서 흔히 마주치는 금융 시계열 데이터에 대한 적용 가능성을 크게 확대한다.

시뮬레이션에서는 다양한 d값(0.3, 0.6, 0.9)과 GARCH(1,1) 파라미터 조합을 사용해 1,000번 반복 실험을 수행하였다. 결과는 확장 휘틀 추정량이 평균 제곱 오차(MSE)와 편향 측면에서 테이퍼드 방법보다 일관되게 우수함을 보여준다. 특히 d가 0.8 이상인 경우, 테이퍼드 추정량은 심각한 과소추정 현상을 보이는 반면, 제안 방법은 거의 편향이 없으며 신뢰구간 커버리지가 명목 수준에 가깝게 유지된다.

결론적으로, 본 연구는 장기 기억과 비정상성을 동시에 고려한 휘틀 기반 추정법을 체계적으로 구축하고, 이론적 정당성과 실증적 효율성을 동시에 확보하였다. 이는 경제·금융·기후 등 다양한 분야에서 비정상 장기 기억 시계열을 정확히 모델링하고 예측하는 데 중요한 도구가 될 것으로 기대된다.