베이즈 모델 선택을 위한 새로운 일반화 조화 평균 추정기

초록

본 논문은 계통학적 베이즈 모델 비교에 필수적인 주변우도(marginal likelihood) 추정 문제를 다룬다. 기존의 조화 평균(HM)과 산술 평균(AM) 추정기는 구현이 간단하지만 무한 분산과 큰 편향으로 신뢰성이 낮다. 저자들은 기존 MCMC 샘플을 재활용하면서 무한 분산 문제를 해결한 일반화 조화 평균(GHM) 추정기를 제안하고, 시뮬레이션 데이터를 통해 기존 방법보다 정확하고 계산 비용도 크게 증가하지 않음을 보인다.

상세 요약

베이즈 계통학에서 모델 간 비교는 베이즈 인자(Bayes factor)를 통해 이루어지며, 이는 두 모델의 주변우도 비율로 정의된다. 주변우도는 사후분포를 적분해 얻어지는 고차원 적분값으로, 직접 계산이 거의 불가능하다. 따라서 추정 방법이 필수적인데, 전통적으로 조화 평균(HM)과 산술 평균(AM) 추정기가 널리 사용되어 왔다. HM은 사후 샘플의 역가능도값을 평균내는 방식으로 구현이 매우 단순하지만, 제안된 가중치 함수가 적절치 않을 경우 무한 분산을 초래한다. AM은 사전 분포 하에서의 평균을 이용하지만, 사전 선택에 민감하고 역시 높은 변동성을 보인다. 최근에는 열역학적 적분(thermodynamic integration), 스테핑스톤(step‑stone) 방법, 경로 샘플링(path sampling) 등 정교한 방법이 제안되었지만, 구현 복잡도와 추가적인 MCMC 체인 요구 등 실용성에서 한계가 있다.

본 연구는 이러한 상황을 고려해 일반화 조화 평균(GHM) 추정기를 도입한다. GHM은 사후 샘플을 그대로 재활용하면서, 가중치 함수를 사후 분포와 제안 분포의 비율 형태로 정의한다. 핵심은 ‘제안 분포’를 적절히 선택해 가중치의 꼬리가 충분히 얇게 만들어 무한 분산을 방지하는 것이다. 저자들은 제안 분포로 다변량 정규분포를 사용하고, 평균과 공분산을 사후 샘플의 경험적 평균·공분산으로 설정한다. 이렇게 하면 가중치가 거의 항상 유한하고, 추정식은 기존 HM과 동일한 형태를 유지하므로 구현이 매우 간단하다.

수학적으로 GHM 추정식은
\