고주파 금융 데이터 지속시간 예측을 위한 자기흥분 유연잔차 포인트 프로세스

초록

본 논문은 한계호가책(Limit Order Book)에서 발생하는 가격 변동 지속시간을 예측하기 위해, 자기흥분 구조와 지수 감쇠를 유지하면서도 실증적 잔차분포를 자유롭게 반영할 수 있는 유연잔차 포인트 프로세스를 제안한다. 모델의 마코프 체인 해석을 통해 불변성, 양의 해리스 재발성, 그리고 정상분포 존재를 증명하고, 초고주파 거래 데이터에 적용한 실험에서 기존 ACD·Hawkes·딥러닝 기반 모델들을 능가하는 예측 정확도를 보였다.

상세 분석

이 연구는 고주파 거래 환경에서 관측되는 초단위·나노초 단위의 이벤트 간격이 중대한 비대칭성과 무거운 꼬리를 가진다는 점에 주목한다. 기존의 Hawkes 프로세스는 지수형 커널을 이용해 자기흥분을 모델링하지만, 잔차분포를 단순 지수 혹은 감마 등 제한된 형태로 가정한다는 한계가 있다. 저자는 정의 1에서 εₙ을 임의의 연속형 분포를 갖는 i.i.d. 변수로 두고, Φ와 Ψ라는 두 변환 함수를 통해 잔차와 상태 변화를 연결한다. Φ는 시간 t와 현재 상태 x에 대해 단조증가함을 전제로 하며, Φ⁻¹(·,x) 를 통해 εₙ을 실제 지속시간 τₙ으로 변환한다. Ψ는 τₙ과 이전 상태 Xₙ₋₁을 입력으로 새로운 상태 Xₙ을 생성하는 deterministic 업데이트 규칙이다. 이 구조는 관측‑주도(observation‑driven) 모델로, 상태 과정이 외부 잡음 없이 오직 εₙ에 의해 구동된다는 점에서 파라미터‑주도 모델과 차별화된다.

특히 정의 6에서 제시된 ‘자기흥분 지수 감쇠 유연잔차 포인트 프로세스’는 μ, α, β>0 로 정의된 상태 업데이트 Ψ(t,x)=μ+(x−μ+α)e^{−βt}와, Φ(t,x)=μt+(x−μ+α)(1−e^{−βt})/β 라는 누적 강도 함수를 결합한다. 이때 εₙ의 분포는 자유롭게 선택 가능하므로, 실증적 잔차분포가 무거운 꼬리를 가질 경우에도 모델이 이를 그대로 반영한다. 조건 α<β·E