확률적 적응을 통한 효율적인 중요도 샘플링

초록

본 논문은 중요도 샘플링의 제안분포를 확률적 근사법으로 반복 학습하는 적응 기법을 제시한다. 스토캐스틱 어프로시메이션과 마이너라이제이션‑맥시마이제이션을 결합해 제안분포와 목표분포 사이의 Kullback‑Leibler 발산을 최소화한다. 간단한 실험을 통해 제안방법이 기존 비적응 샘플러보다 샘플 효율성을 크게 향상시킴을 보인다.

상세 분석

이 논문은 중요도 샘플링(Importance Sampling, IS)의 핵심 과제인 제안분포(proposal distribution)의 선택 문제를 확률적 적응(stochastic adaptation) 프레임워크 안에서 재정의한다. 전통적인 MCMC와 달리 IS는 마크오프 체인 없이 독립적인 샘플을 생성하므로, 제안분포를 동적으로 업데이트하는 것이 이론적으로도 구현적으로도 용이하다. 저자들은 이 점을 활용해 스토캐스틱 근사법(stochastic approximation, SA)을 기반으로 한 반복 학습 알고리즘을 설계한다. 구체적으로, 매 반복 단계에서 현재 제안분포 파라미터 θ_t 를 사용해 목표분포 π에 대한 샘플을 생성하고, 이 샘플들의 중요도 가중치 w_i = π(x_i)/q_{θ_t}(x_i) 를 계산한다. 이후 Kullback‑Leibler(KL) 발산 D_{KL}(π‖q_{θ}) 의 기울기를 추정하는데, 이는 기대값 E_{π}