고주파 데이터 기반 실현 변동성 분포 함수와 적합도 검정

초록

본 논문은 고주파 가격 데이터에서 추정한 실현 경험분포함수(Realized EDF, REDF)를 이용해 잠재적 변동성(spot variance)의 분포를 비모수적으로 추정하고, 이를 통해 확률적 변동성 모델의 적합도를 검정하는 새로운 방법론을 제시한다. 메쉬가 미세해질수록 REDF는 일관성을 보이며, 시간 길이가 무한대로 확대될 때는 변동성의 누적분포함수(CDF)로 수렴한다. Monte‑Carlo 실험과 실제 주식 데이터 적용을 통해 제안된 검정이 크기와 검정력 모두에서 우수함을 확인하였다.

상세 분석

이 연구는 두 단계의 비대칭 비정형 asymptotics을 기반으로 REDF의 수학적 특성을 정밀히 규명한다. 첫 번째 단계에서는 관측 그리드의 메쉬가 0으로 수렴할 때, 마이크로스트럭처 노이즈와 점프를 포함한 일반적인 Itô 반마르코프 과정 하에서 실현 변동성 추정량이 일관적임을 보인다. 여기서 저자들은 기존의 비중첩 구간 대신 겹치는 구간(overlapping blocks)을 도입했으며, 이는 샘플 효율성을 크게 향상시키는 동시에 추정 오차에 대한 균일한 상한을 확보하는 복잡한 기술적 증명을 요구한다. 특히, pre‑averaging 기법을 활용해 노이즈를 제거하고, 점프 보정 절차를 결합함으로써 실현 변동성의 점근적 분포가 원래의 spot variance와 동일함을 증명한다.

두 번째 단계에서는 시간 구간을 무한히 확장하는 double‑asymptotic 프레임워크를 채택한다. 이 경우 REDF는 변동성의 장기적인 누적분포함수(CDF)로 수렴하며, 이는 van der Vaart와 Wellner가 제시한 추정함수에 의해 색인된 경험 과정(empirical process) 이론을 확장한 결과이다. 저자들은 연속적인 시간 인덱스와 비독립 관측이라는 두 가지 난관을 동시에 해결하기 위해 함수형 중심극한정리(functional CLT)를 도출하고, 이를 기반으로 Kolmogorov‑Smirnov형 검정통계량과 가중 L²‑norm 검정통계량을 정의한다. 이러한 검정통계량은 REDF와 가설 모델이 제시하는 이론적 분포 사이의 최대 절대 차이와 제곱 차이의 가중합을 각각 측정한다.

하지만 검정통계량의 극한분포는 파라미터 추정오차와 비정규성 때문에 직접적인 해석이 어려워, 저자들은 파라메트릭 부트스트랩 절차를 설계하였다. 부트스트랩 샘플은 추정된 모델 파라미터를 이용해 시뮬레이션한 가상 가격 경로에서 동일한 REDF 추정 과정을 재현함으로써, 실험적 p‑값을 빠르게 산출한다.

Monte‑Carlo 실험에서는 다양한 변동성 모델(예: Heston, Hull‑White, Inverse Gaussian 등)과 대안 모델을 대상으로 검정력을 비교하였다. 결과는 제안된 REDF 기반 검정이 기존의 integrated variance 기반 검정보다 특히 변동성 분포의 꼬리 부분에서 높은 검정력을 보임을 확인한다. 실제 데이터 분석에서는 미국 주식의 초당 거래 데이터를 이용해 REDF를 추정하고, 두 파라미터를 갖는 여러 후보 분포(Inverse Gaussian, Gamma, Generalized Inverse Gaussian 등)와 비교하였다. Inverse Gaussian가 가장 근접하지만 완벽하지 않으며, 이는 추가 파라미터를 도입한 Generalized Inverse Gaussian이 더 적합할 가능성을 시사한다.

전반적으로 이 논문은 고주파 데이터에서 변동성의 전체 분포를 비모수적으로 복원하고, 이를 통해 확률적 변동성 모델의 적합도를 정량적으로 평가할 수 있는 강력한 도구를 제공한다는 점에서 이론적·실무적 의의가 크다.