의존성 미확인 백색소음 검정 및 시계열 모델 적합도 평가

초록

본 논문은 기존 백색소음 검정인 Box‑Pierce 통계량이 독립·동일분포(i.i.d.) 가정 하에서만 유효하다는 한계를 극복하고, 의존성이 존재할 수 있는 약한 의존(weak dependence) 상황에서도 검정 통계량의 귀무분포가 유지됨을 증명한다. 특히, 시차 절단점(lag truncation) 수를 표본 크기에 따라 적절히 증가시키면 일반 가중치를 적용한 Box‑Pierce 검정이 비가우시안·조건부 이분산(GARCH) 오류를 포함한 ARMA·FARIMA 모델의 진단에 그대로 사용할 수 있음을 보인다.

상세 분석

본 연구는 백색소음 검정의 전통적 접근법이 독립성 가정에 크게 의존한다는 점을 지적하고, 실제 금융·경제 시계열에서 흔히 나타나는 조건부 이분산성(heteroscedasticity) 및 비선형 의존성을 고려한 새로운 이론적 틀을 제시한다. 핵심은 Box‑Pierce 검정 통계량 (Q_n=\sum_{j=1}^{k} w_j \hat\rho_j^2) (여기서 (w_j)는 일반 가중치, (\hat\rho_j)는 표본 자기상관계수) 에 대해, 오류 과정이 약한 의존성을 만족하고, 시차 절단점 (k) 가 (k=o(n^{1/2})) 를 만족하는 경우, (Q_n) 의 한계 분포가 기존의 (\chi^2) 분포와 동일함을 증명한다. 이를 위해 저자는 강한 근사(Strong Approximation)와 베타-믹스처(β‑mixing) 조건을 활용하여, 자기상관계수의 중심극한정리를 일반화하고, 가중치가 비정상적이더라도 합산된 제곱값이 정상성을 유지하도록 보였다.

또한, GARCH(1,1)과 같은 조건부 이분산 모델이 생성하는 오류는 평균이 0이면서 자기상관은 없지만, 고차 모멘트에서는 의존성을 내포한다. 이러한 오류 구조 하에서도 (k) 가 충분히 느리게 증가하면, (Q_n) 의 분산-공분산 구조가 안정화되어 기존의 χ² 근사와 차이가 사라진다. 논문은 이를 수학적으로 입증하기 위해, 오류 과정의 4차 모멘트가 유한하고, (\sum_{h=1}^{\infty} |\gamma_h|<\infty) (여기서 (\gamma_h)는 고차 자기공분산) 를 만족하는 경우를 가정한다.

실증적 측면에서는 ARMA와 FARIMA 모델의 잔차가 조건부 이분산성을 가질 때, 기존 검정이 과도하게 거부되는 현상을 설명한다. 저자는 시뮬레이션을 통해 (k) 를 (n^{1/3}) 정도로 설정하면 실제 유의수준이 명목 수준에 가깝게 유지됨을 확인하였다. 또한, 실제 금융 데이터(예: S&P 500 일간 수익률) 에 적용하여, GARCH 오류를 포함한 ARMA 모델의 적합성을 검증하는 과정에서 제안된 방법이 기존 방법보다 더 신뢰할 수 있는 진단 결과를 제공함을 보여준다.

이러한 결과는 백색소음 검정이 단순히 자기상관이 없음을 확인하는 수준을 넘어, 오류 구조의 복잡성을 포괄적으로 평가할 수 있는 도구로 확장될 수 있음을 시사한다. 특히, 비가우시안·비선형 의존성을 갖는 현대 시계열 분석에서 모델 진단의 이론적 근거를 제공함으로써, 실무자와 학계 모두에게 중요한 의미를 가진다.