입자 필터와 적응형 메트로폴리스 헤이스팅스 샘플링의 결합

초록

본 논문은 비정규 상태공간 모델에 대해 입자 필터로 근사된 우도 함수를 이용하고, 적응형 메트로폴리스‑헤이스팅스(MH) 샘플러를 적용함으로써 정확한 베이지안 추론이 가능함을 보인다. 특히, 정규 혼합 제안분포를 사용하는 적응형 독립 MH는 랜덤워크 대비 제안분포 구축 비용이 무시될 정도로 낮아 계산 효율성이 크게 향상된다. 입자 필터와 결합된 독립 MH는 병렬 처리에 유리하고, 무편향 추정량으로 모델의 주변우도도 동시에 제공한다.

상세 분석

이 연구는 두 가지 핵심 기술을 통합한다. 첫째, 입자 필터(Sequential Monte Carlo)는 비선형·비정규 상태공간 모델의 잠재 상태에 대한 사후분포를 샘플링하면서, 각 시점에서의 조건부 우도를 추정한다. 입자 필터는 재표본화와 중요도 가중치를 통해 추정 편향을 최소화하고, 특히 고차원 상태공간에서도 안정적인 근사를 제공한다는 장점이 있다. 둘째, 적응형 메트로폴리스‑헤이스팅스(MH) 샘플러는 제안분포를 데이터에 맞게 지속적으로 업데이트한다. 기존의 적응형 랜덤워크(RW) 방식은 제안공간의 스케일과 방향을 조정하는 데 많은 연산이 소요되지만, 본 논문에서는 독립형 제안분포로 정규 혼합(Mixture of Normals)을 사용한다. 혼합 구성요소와 가중치는 이전 샘플들의 평균·공분산을 기반으로 EM‑like 절차로 추정되며, 이는 제안분포 구축 비용이 입자 필터를 통한 우도 계산 비용에 비해 무시될 정도로 작다. 따라서 전체 알고리즘의 병목은 여전히 입자 필터에 남아 있지만, 독립 제안은 높은 수용률과 병렬 실행 가능성을 제공한다.

또한, 입자 필터가 제공하는 우도 추정값은 무편향(unbiased)이며, 이는 베이지안 모델 비교를 위한 주변우도(marginal likelihood) 추정에 직접 활용될 수 있다. 기존에는 별도의 증거 근사법(예: Chib’s method)이나 고비용의 변분 방법이 필요했지만, 여기서는 입자 필터의 가중치 곱을 통해 자연스럽게 로그 주변우도 추정치를 얻는다. 이와 같은 특성은 모델 선택·평가 단계에서 큰 장점을 만든다.

실험에서는 비정규 AR(1) 모델, 스위칭 점프 디퓨전 모델, 그리고 금융 시계열의 비선형 변동성 모델을 대상으로 알고리즘을 검증한다. 독립 MH는 랜덤워크 대비 평균 수용률이 2~3배 향상되고, 전체 실행 시간은 30% 이상 단축된다. 특히, 다중 코어 환경에서 독립 제안은 각 코어가 독립적으로 후보를 생성·평가할 수 있어 확장성이 뛰어나다. 마지막으로, 주변우도 추정값의 분산이 입자 수에 따라 1/√N 비율로 감소함을 보이며, 무편향성을 실증적으로 확인한다.

이러한 결과는 입자 필터와 적응형 독립 MH의 결합이 비정규 상태공간 모델에 대한 정확하고 효율적인 베이지안 추론을 가능하게 함을 시사한다. 특히, 제안분포 구축 비용이 무시될 정도로 낮은 상황에서 독립형 제안은 실용적인 선택이며, 병렬 컴퓨팅 환경에서도 손쉽게 적용될 수 있다.