레비 과정 시뮬레이션을 위한 무상관 스텝 함수 알고리즘과 적응형 혼합 기법

초록

본 논문은 전통적인 Metropolis‑Hastings(MH) 방법과 달리 마코프 체인의 상관성을 완전히 없앨 수 있는 스텝 함수(SF) 기반 시뮬레이션 기법을 제안한다. Lévy 측정에 대한 확률분포를 효율적으로 샘플링하고, 이를 이용해 Gaussian, NIG, CGMY 등 무한활동 Lévy 과정을 점프‑디퓨전 형태로 근사한다. 또한, 확률공간을 구간으로 분할하고 적응적으로 이산 분포를 업데이트하는 AIMH와 ASF 하이브리드 알고리즘을 도입해 효율성을 높인다. 실험 결과, SF 방식은 MH 대비 상관성이 없으며, 특히 t=1 시점에서 정확한 분포와 일치함을 보인다.

상세 분석

본 연구는 Lévy 과정 시뮬레이션에서 가장 핵심적인 문제인 “점프 크기의 무상관 샘플링”을 해결하기 위해 스텝 함수(Stochastic Step Function, SF)라는 새로운 Monte‑Carlo 알고리즘을 제시한다. 기존의 Metropolis‑Hastings(MH) 방법은 목표 분포 ν₁에 대해 마코프 체인을 구성하지만, 제안·수용 단계에서 발생하는 거부(rejection)와 전이(transition) 상관성 때문에 동일 경로 내에서 연속적인 점프 값이 서로 의존하게 된다. 이는 특히 Lévy 과정처럼 점프가 무수히 많이 발생하는 무한활동 모델(NIG, CGMY)에서 분포의 꼬리를 과도하게 두껍게 만들며, 수렴 속도를 현저히 저하시킨다.

SF 알고리즘은 “휴식 시간(τᵢ)=ν(sᵢ)”에 비례하는 고정된 체류 시간을 두고, 상태 sᵢ를 일정 시간 동안 유지하는 계단형 경로 Xₜ를 생성한다. 이 경로를 균일한 시간 격자(Δt)로 샘플링하면, 각 샘플은 ν₁에 정확히 따르게 되며, 제안·수용 단계가 없으므로 거부 상관성이 완전히 사라진다. 전이 상관성 역시 ρ가 독립적일 경우(예: 전체 구간에 대한 균등 분포) 제거된다. 다만, sup ν가 크면 Δt를 작게 잡아야 효율이 떨어지는 문제가 있는데, 이를 완화하기 위해 체류 시간을 지수분포로 랜덤화하거나, 구간 분할 후 이산 확률분포 ˜ν를 적응적으로 추정하는 방법을 도입한다.

구간 분할 전략은 전체 실수축을 유한 개의 구간 {Uᵢ}로 나누고, 각 구간의 무게 ˜ν(Uᵢ)≈ν(Uᵢ)로 초기화한다. 시뮬레이션 진행 중에 관측된 샘플을 이용해 ˜ν를 업데이트하면, MH에서는 독립 제안 분포가 목표 분포에 점점 가까워져 거부율이 감소하고, SF에서는 체류 시간의 상한이 감소해 샘플링 효율이 향상된다. 이러한 적응형 독립 MH(AIMH)와 적응형 SF(ASF) 하이브리드 알고리즘은 상관성을 최소화하면서도 계산 비용을 크게 늘리지 않는다.

실험에서는 (1) 단순 Gaussian Lévy 측정, (2) NIG와 CGMY의 무한활동 근사 모델을 대상으로 t=1 시점의 분포를 정확한 해와 비교하였다. 결과는 SF 기반 시뮬레이션이 MH 대비 평균 절대 오차와 Kullback‑Leibler 발산이 현저히 낮으며, 특히 꼬리 부분에서 MH가 과도한 확률 질량을 할당하는 반면 SF는 이론적 꼬리 지수를 정확히 재현한다. 또한, 적응형 하이브리드 기법은 초기 추정이 부정확해도 빠르게 수렴해 실용적인 적용 가능성을 보여준다.

요약하면, 본 논문은 Lévy 과정 시뮬레이션에 있어 “무상관 점프 샘플링”이라는 근본적인 요구를 만족시키는 새로운 SF 프레임워크와, 이를 보강하는 적응형 구간 분할·이산 분포 추정 기법을 제시함으로써, 기존 MH 기반 방법의 한계를 극복하고, 복잡한 무한활동 Lévy 모델에서도 높은 정확도와 효율성을 달성한다는 중요한 기여를 한다.