장기 의존성 추정기 성능 비교 연구

초록

본 논문은 12가지 Hurst(또는 d) 추정기의 정확도와 편향을 10010 000표본 길이와 H=0.550.90(d=0.05~0.40) 구간의 가상 Fractional Gaussian Noise와 분수 적분 시계열에 대해 시뮬레이션으로 평가한다. 결과는 표본이 작을수록 일부 추정기가 크게 편향되며, Whittle, wavelet, 그리고 GPH 추정기가 전반적으로 가장 안정적임을 보여준다. 또한 Campito Mountain 데이터에 적용해 Beran 적합도 검정으로 각 추정기의 실증적 신뢰성을 검증한다.

상세 분석

이 연구는 장기 의존성을 나타내는 Hurst 지수 H와 분수 차분 차수 d를 추정하기 위한 12개의 대표적인 방법을 체계적으로 비교한다. 사용된 추정기에는 전통적인 R/S 분석, 변동성 집계법(aggregated variance), 주기법(periodogram), 수정된 주기법(modified periodogram), GPH(Geweke‑Porter‑Hudak) 추정기, Whittle 최대우도법, wavelet 기반 추정기, DFA(detrended fluctuation analysis) 등 다양한 통계·신호 처리 기법이 포함된다. 시뮬레이션은 두 종류의 시계열, 즉 Fractional Gaussian Noise(FGN)와 ARFIMA(0,d,0) 모델을 각각 100, 500, 1 000, 5 000, 10 000 길이로 생성하고, H값을 0.55, 0.65, 0.75, 0.85, 0.90(또는 d=0.05~0.40)으로 변동시켜 전반적인 성능을 평가한다.

주요 결과는 다음과 같다. 첫째, 표본 크기가 1 000 이하일 때는 대부분의 추정기가 평균적으로 큰 편향을 보이며, 특히 R/S와 변동성 집계법은 H가 0.8 이상일 때 과대추정 경향이 뚜렷했다. 둘째, Whittle 추정기는 작은 표본에서도 비교적 낮은 평균제곱오차(MSE)를 유지했으며, 특히 d가 0.2 이상일 때도 안정적인 추정값을 제공했다. 셋째, wavelet 기반 추정기는 다중 해상도 분석을 활용해 고주파 잡음에 강인했으며, H가 0.9에 가까울 때도 편향이 거의 없었다. 넷째, GPH와 수정된 주기법은 중간 정도 표본(1 0005 000)에서 좋은 성능을 보였지만, 매우 작은 표본(100500)에서는 분산이 크게 증가했다. 다섯째, DFA는 비선형 추세가 존재할 경우 유리했지만, 순수 FGN에서는 다른 방법에 비해 약간 낮은 정확도를 보였다.

실증 적용으로 Campito Mountain 데이터(길이 5 383)를 사용했으며, 12개 추정기의 결과를 Beran(1992) 적합도 검정에 투입해 장기 의존성 가설을 검증했다. Whittle과 wavelet 추정기의 p‑값이 가장 높아(>0.2) 데이터가 장기 기억 모델에 잘 맞는다는 결론을 뒷받침했으며, 반면 R/S와 변동성 집계법은 p‑값이 0.05 이하로 낮아 과대추정 가능성을 시사했다.

전체적으로 이 논문은 표본 크기와 H(또는 d) 값에 따라 추정기의 선택이 달라져야 함을 강조한다. 실무에서는 표본이 충분히 크고(≥5 000) 높은 H값을 다룰 경우 wavelet 또는 Whittle 방법을 우선 고려하고, 제한된 데이터에서는 GPH와 수정된 주기법을 보조적으로 활용하되, 편향 보정을 위한 부트스트랩이나 사전 시뮬레이션을 병행할 것을 권고한다.