포아송 INGARCH 모델의 효율적인 사후 샘플링 방법

초록

본 논문은 포아송 INGARCH 시계열 모델의 베이지안 사후 추정을 위해, 음이항 분포의 포아송 극한을 이용한 근사와 폴리-감마 데이터 증강을 결합한 새로운 샘플링 스킴을 제안한다. 선형 로그링크와 비선형 소프트플러스 링크 모두에 적용 가능하도록, 로그 강도를 1차 테일러 전개로 선형화하고, 상태‑의존 가우시안 제안을 설계한다. 제안된 방법은 Gibbs‑type 업데이트와 메트로폴리스‑헤이스팅(MH) 보정으로 구성되며, 적응형 중요도 샘플링과 파레토‑스무딩을 통해 효율성을 크게 향상시킨다. 시뮬레이션과 실제 데이터 분석 결과, 높은 유효 샘플 크기와 빠른 혼합을 확인하였다.

상세 분석

이 논문은 포아송 INGARCH(p,q) 모델의 베이지안 사후분포를 효율적으로 탐색하기 위한 새로운 알고리즘을 제시한다. 핵심 아이디어는 포아송 분포를 음이항 분포의 파라미터 r→∞ 한계로 근사함으로써, 음이항의 확률 질량 함수를 폴리‑감마(Pólya‑Gamma) 스케일 혼합 형태로 변환하는 것이다. 이를 통해 원래의 비선형 로그 강도 함수가 폴리‑감마 데이터 증강을 적용했을 때 조건부 가우시안 형태로 나타나, 자동으로 조건부 정규 업데이트가 가능해진다.

선형 로그링크(예: ψ(λ)=log λ)에서는 로그 강도가 설계 행렬 D와 파라미터 θ의 선형 결합으로 표현되므로, ω∼PG(r+x,ψ) 를 도입한 뒤 θ의 조건부 사후는 N(μ, V) 형태가 된다. 여기서 V와 μ은 현재 ω의 평균값 (\bar ω) 를 사용해 계산되며, r가 클수록 ω 샘플링 비용이 선형적으로 증가한다는 실용적 문제를 인식한다. 저자는 ω의 기대값을 근사적으로 대체하는 ‘플러그‑인’ 방법을 도입해, 매 iteration마다 (\bar ω) 를 업데이트하고 이를 기반으로 상태‑의존 가우시안 제안 g(θ*|θ^{(k‑1)}) ∼ N(μ^{(k‑1)}, V^{(k‑1)}) 를 생성한다. 이 제안은 MH 보정 단계에서 정확한 포아송 우도와 결합되므로, 근사 정확도와는 무관하게 목표 사후분포를 정확히 타깃한다.

비선형 소프트플러스 링크(sc(x)=c log(1+e^{x/c}))에 대해서는 로그 강도가 θ에 대해 비선형이므로, 1차 테일러 전개 z_t(θ)≈o_t+J_t^T θ 로 선형화한다. 여기서 J_t는 현재 파라미터값에서의 기울기로, 재귀적으로 λ_t와 그 파라미터에 대한 미분값 h_t를 계산해 얻는다. 이 선형화는 로그링크에서는 정확하고, 소프트플러스와 같은 부드러운 비선형에서도 충분히 근사한다. 따라서 동일한 폴리‑감마 증강 구조와 상태‑의존 가우시안 제안을 그대로 적용할 수 있다.

알고리즘의 효율성을 더욱 높이기 위해 저자는 적응형 중요도 샘플링(Adaptive Importance Sampling, AIS)을 설계한다. 제안 분포는 위에서 정의한 가우시안 제안과 동일하지만, 수용/거부 단계 없이 가중치를 부여한다. 가중치의 변동성을 제어하기 위해 파레토‑스무딩(Pareto‑smoothed importance sampling, PSIS)을 적용해, 극단적인 가중치가 전체 추정에 미치는 영향을 완화한다. 또한, r_t 파라미터를 개별적으로 튜닝하는 대신, 포아송과 음이항 누적분포 차이의 상한(d) 를 이용해 전체 시계열에 걸쳐 동일한 허용 오차를 만족하도록 r_t를 자동 결정한다. 이는 제안 밀도가 목표 사후와 일정한 거리 내에 머무르게 함으로써, ESS(Effective Sample Size)를 크게 향상시킨다.

수치 실험에서는 로그링크와 소프트플러스 두 경우 모두에서 제안된 방법이 기존 고정‑제안 MCMC 대비 ESS가 3~5배 이상 증가하고, 자동 상관 시간(autocorrelation time)이 크게 감소함을 보였다. 실제 데이터(범죄 발생 건수와 같은 과잉분산 카운트 시계열) 분석에서도 예측 정확도와 불확실성 추정이 개선되었으며, 파라미터의 후방 분포가 안정적으로 수렴함을 확인하였다.

전반적으로 이 논문은 포아송 INGARCH 모델의 베이지안 추정에 있어, 근사와 정확성을 동시에 만족시키는 혁신적인 프레임워크를 제공한다. 폴리‑감마 증강을 통한 조건부 정규화, 상태‑의존 가우시안 제안, 그리고 파레토‑스무딩 기반 AIS의 결합은 복잡한 시계열 카운트 모델에서도 높은 계산 효율성과 견고한 수렴 특성을 보장한다.