타원형 슬라이스 샘플링
다변량 가우시안 사전분포와 복잡한 가능도 함수를 결합한 베이지안 모델에서, 파라미터 튜닝 없이 바로 적용 가능한 무파라미터 MCMC 방법인 타원형 슬라이스 샘플링을 제안한다. 기존 메트로폴리스‑해스팅보다 자동 적응적 스텝 크기를 제공하며, 고차원에서도 효율적인 샘플링을 보장한다.
저자: Iain Murray, Ryan Prescott Adams, David J.C. MacKay
본 논문은 다변량 정규분포를 사전으로 갖는 베이지안 모델, 특히 가우시안 프로세스(GP) 기반 모델에서 효율적인 마코프 체인 몬테 카를로(MCMC) 샘플링 방법을 제안한다. 기존의 Gibbs 샘플링은 변수 간 강한 상관관계가 존재할 때 매우 느린 혼합을 보이며, 메트로폴리스‑해스팅(MH) 역시 스텝 크기 γ를 적절히 설정해야 하는 튜닝 문제가 있다. 이러한 문제를 해결하고자 저자들은 “타원형 슬라이스 샘플링(Elliptical Slice Sampling, ESS)”이라는 새로운 알고리즘을 고안한다.
**문제 설정**
목표는 사전 N(f;0,Σ)와 가능도 L(f)=p(data|f)의 곱으로 정의되는 후방분포 p∗(f)∝N(f;0,Σ)L(f)를 샘플링하는 것이다. 여기서 f는 N차원 잠재 변수이며, Σ는 사전 공분산 행렬이다.
**알고리즘 설계**
1. **타원 생성**: 현재 상태 f와 독립적으로 샘플링한 ν∼N(0,Σ)를 이용해 f와 ν가 정의하는 2차원 평면에 타원을 만든다. 타원 위의 임의 점은 f cos θ + ν sin θ 형태이며, θ∈
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기