스플라인 자기회귀를 이용한 분위수 스펙트럼 추정

초록

본 논문은 분위수 스펙트럼을 주파수와 분위수 수준을 동시에 함수화한 형태로 추정하기 위해, 분위수 이산 푸리에 변환(QDFT)으로부터 얻은 시간 영역 분위수 시계열(QSER)에 스플라인 형태의 자기회귀(AR) 모델을 적용하는 새로운 방법인 스플라인 자기회귀(SAR)를 제안한다. SAR는 AR 계수를 분위수 수준에 대해 매끄러운 스플라인으로 표현하고, 페널티 최소제곱으로 추정함으로써 기존의 각 분위수별 독립 추정보다 정확도를 크게 향상시킨다. 시뮬레이션 결과가 이를 입증한다.

상세 분석

본 연구는 기존 분위수 스펙트럼 추정 방법이 각 분위수 수준을 독립적으로 처리하고 사후에 스무딩을 적용하는 2단계 절차에 머무르는 한계를 지적한다. 저자는 분위수 이산 푸리에 변환(QDFT)을 이용해 원 시계열을 분위수 수준별로 변환한 뒤, 역변환을 통해 얻은 시간 영역 분위수 시계열(QSER)을 정의한다. QSER은 원본 수준‑교차 과정의 근사치이며, 그 자체가 전통적인 주기함수와 동일한 형태의 주기함수를 갖는다. 이를 기반으로 전통적인 AR(p) 모델을 적용하되, 각 분위수 수준 α에 대해 AR 계수를 별도로 추정하는 대신, 계수를 α에 대한 스플라인 함수로 모델링한다. 구체적으로, 계수 행렬 Aτ(α) (τ=1,…,p)를 스플라인 기저함수들의 선형 결합으로 표현하고, 전체 α 그리드에 걸쳐 최소제곱 잔차와 스플라인의 2차 미분에 대한 페널티(λ)를 동시에 최소화한다. 이 접근법은 두 가지 중요한 통계적 이점을 제공한다. 첫째, 분위수 수준 간의 매끄러운 변화를 강제함으로써 추정 변동성을 크게 감소시킨다. 둘째, AR 계수와 잔차 공분산 행렬을 동시에 스무딩함으로써 다변량 경우에도 일관된 스펙트럼 추정이 가능해진다. 이론적 분석에서는 QSER이 원 수준‑교차 과정 u_t(α)와 거의 동일한 자기공분산 구조를 갖는다는 베하두르식 근사를 제시하고, AR(∞) 표현을 통해 S(ω,α)와 S_p(ω,α) 사이의 L1 오차가 p→∞일 때 사라짐을 증명한다. 또한, 페널티 최소제곱 문제는 선형 시스템으로 변환 가능하므로 기존 스플라인 회귀와 동일한 수치 해법(예: 리시젼 스플라인 매트릭스)으로 효율적으로 해결될 수 있다. 시뮬레이션에서는 스토캐스틱 변동성 모델, 비선형 ARMA, 그리고 중첩된 레버리지 효과를 갖는 금융 시계열을 대상으로 SAR이 기존의 독립 추정+스무딩 방법보다 평균 제곱 오차와 평균 절대 오차에서 15~30% 정도 우수함을 확인한다. 특히 극단 분위수(α≈0.05,0.95)에서의 성능 향상이 두드러져, 비선형 의존성을 포착하는 데 SAR이 특히 유리함을 보여준다. 전반적으로 본 논문은 분위수 스펙트럼을 연속적인 2차원 함수로 추정하는 새로운 프레임워크를 제시하고, 이론적 정당성과 실험적 검증을 모두 제공함으로써 비선형 시계열 분석 분야에 중요한 기여를 한다.