고주파 데이터의 마이크로스트럭처 잡음 속 변동성 함수 비모수 추정

초록

본 논문은 고주파 관측값 Y₍ᵢ,ₙ₎와 𝑌̃₍ᵢ,ₙ₎에 포함된 마이크로스트럭처 잡음 ε₍ᵢ,ₙ₎가 변동성 σ(t)와 잡음 규모 τ(t)에 미치는 영향을 분석한다. 공분산의 스펙트럼 분해를 이용해 σ²와 τ²의 시리즈 추정량을 제시하고, Sobolev 타원체 위에서의 매끄러움 정도에 따라 평균제곱오차(MISE)의 수렴 속도를 평가한다. 결과적으로 잡음은 1/2 차원의 추가적인 병렬성(ill‑posedness)을 초래한다는 것을 보이며, 제안된 추정기는 최소극대(minimax) 최적성을 가진다. 간단한 시뮬레이션을 통해 이론적 결과를 실증한다.

상세 분석

논문은 두 가지 고주파 모델 Yᵢ,ₙ = ∫₀^{i/n} σ(s) dW_s + τ(i/n) εᵢ,ₙ와 𝑌̃ᵢ,ₙ = σ(i/n) W_{i/n} + τ(i/n) εᵢ,ₙ을 전제로 한다. 여기서 W_t는 표준 브라운 운동이며, εᵢ,ₙ은 평균 0, 분산 1, 네 번째 모멘트가 유한한 i.i.d. 잡음이다. σ(t)와 τ(t)는 미지의 결정론적 함수이고, W_t와 εᵢ,ₙ은 서로 독립이다. 이러한 설정은 실제 금융 데이터에서 관측되는 마이크로스트럭처 잡음, 즉 거래 가격에 섞여 있는 비정상적인 변동을 모델링한다는 점에서 실용적이다.

주요 기법은 관측값들의 공분산 행렬을 고유함수(특히 사인·코사인 계열)로 전개한 뒤, 해당 고유값의 구조를 이용해 σ²와 τ²를 각각 추정하는 시리즈 형태의 추정량을 구성하는 것이다. 이때 사용되는 기저함수는 Sobolev 공간의 타원체와 직접 연결되며, σ와 τ의 매끄러움 정도를 s_σ, s_τ 라는 정수(또는 실수) 지수로 표현한다.

수학적으로는 MISE(Mean Integrated Squared Error)를 최소화하는 최적 차원 선택법을 제시하고, 이를 통해 얻은 수렴 속도는 n(샘플 수)에 대한 n^{-2s/(2s+1)} 형태를 보인다. 그러나 마이크로스트럭처 잡음 εᵢ,ₙ이 존재하면, 기존의 비노이즈 모델에 비해 추가적인 1/2 차원의 ill‑posedness가 발생한다. 즉, 추정 문제는 원래보다 더 어려워지며, 이는 εᵢ,ₙ의 꼬리 분포와 무관하게 동일하게 나타난다.

또한, 논문은 제안된 추정기가 Sobolev 타원체 위에서 minimax lower bound와 일치함을 증명함으로써, 이론적 최적성을 확보한다. 이는 어떤 다른 비모수 방법도 동일한 매끄러움 조건 하에서 더 나은 속도를 달성할 수 없다는 의미이다.

실험 부분에서는 σ(t)=1+0.5 sin(2πt), τ(t)=0.3+0.2 cos(2πt)와 같은 합성 함수를 사용해 n=500, 1000, 2000 등 다양한 샘플 크기에서 시뮬레이션을 수행한다. 결과는 이론적 수렴 속도와 일치하며, 특히 잡음 수준이 높을수록 추정 오차가 1/2 차수만큼 감소한다는 점을 확인한다.

전체적으로 이 연구는 고주파 금융 데이터에서 변동성 함수를 정확히 추정하기 위한 새로운 비모수 프레임워크를 제공하고, 마이크로스트럭처 잡음이 가져오는 근본적인 통계적 어려움을 정량화한다는 점에서 학문적·실무적 의의를 가진다.