예측 중심 마팅게일 사후분포의 점근 이론과 베르누이 폰 마이스 정리

초록

본 논문은 파라메트릭 예측 밀도를 이용한 마팅게일 사후분포의 점근적 특성을 연구한다. 두 가지 중심극한정리를 제시하는데, 첫 번째는 예측 재샘플링을 가속화하는 정규 근사 기반 하이브리드 샘플링 알고리즘을 위한 예측 CLT이며, 두 번째는 마팅게일 사후분포에 대한 베르누이‑폰 마이스(BvM) 정리로, 빈도주의적 신뢰구간과 일치하는 성질을 제공한다. 이론적 결과는 시뮬레이션과 실제 데이터 분석을 통해 검증된다.

상세 분석

이 논문은 기존 베이즈 추론에서 사후분포를 정의하기 위해 필요했던 사전·우도 구조를 대체할 수 있는 ‘마팅게일 사후분포’ 프레임워크를 확장한다. 핵심 아이디어는 관측값을 순차적으로 예측 밀도 p(y|Y₁:i) 로 대체하고, 이 예측밀도를 통해 미관측값을 임퓨트함으로써 사후분포를 구성한다는 점이다. 저자는 파라메트릭 예측밀도 p_θ(y) 를 사용하고, θ̂ₙ을 초기 추정값(예: MLE)으로 두고, 이후에 자연그라디언트 형태의 stochastic gradient descent 업데이트
θ_N = θ_{N-1} + (N‑1)^{-1} I(θ_{N-1})^{-1} s(θ_{N-1}, Y_N)
을 적용한다. 여기서 s는 점수함수, I는 피셔 정보이며, 학습률 (N‑1)^{-1} 은 ∑_{k=n+1}^{∞} (k‑1)^{-1}=∞, ∑ (k‑1)^{-2}<∞ 를 만족해 마팅게일 수렴성을 보장한다.

첫 번째 중심극한정리(Predictive CLT)는 ‘예측 비대칭성’에 초점을 맞춘다. 고정된 초기 데이터 Y₁:n을 조건으로, N→∞ 일 때 θ_N이 θ_∞(무한히 임퓨트된 데이터에 대한 한계값) 로 수렴한다는 점은 Doob의 마팅게일 수렴정리와 일치한다. 저자는 추가적으로 L² 유계와 Lindberg 조건을 가정하여
V_N^{-1}(θ_∞−θ_N) ⇒ N(0,1)
를 증명한다. 여기서 V_N² = ∑_{i=N+1}^∞ E