근사 베이지안 계산의 비모수적 접근과 조정 기법 고찰

초록

본 논문은 근사 베이지안 계산(ABC)의 비모수적 추정 방법을 재검토한다. 요약통계 s_obs와 파라미터 θ에 대한 조건부 밀도 g(θ|s_obs)를 추정하기 위해 거부 샘플링, 선형 조정, 그리고 새롭게 제안된 2차 조정 추정기의 asymptotic bias와 variance를 이론적으로 도출한다. 조정 기법이 반드시 우수한 것은 아니지만, 요약통계와 파라미터 사이의 관계가 거의 등분산(homoscedastic)일 때 성능이 향상됨을 보인다. 이를 위해 요약통계의 변환을 제안하고, 인구유전학·역학 모델 사례를 통해 실험적 효용을 확인한다.

상세 분석

논문은 ABC를 “조건부 밀도 g(θ|s_obs)를 비모수적으로 추정하는 문제”로 공식화한다. 전통적인 거부 샘플링은 θ 값을 사전분포에서 추출하고, 시뮬레이션된 요약통계 s 가 관측값 s_obs 와 거리 ‖s‑s_obs‖ 가 사전 정의된 허용오차 ε 이내일 때만 받아들여, 그 비율을 통해 사후분포를 근사한다. 이 방법은 편향이 존재하지만, 편향의 1차항이 ε² 에 비례한다는 점을 저자들은 정량화한다.

선형 조정(linear adjustment)은 회귀 모델 θ = a + b·(s‑s_obs) + error 를 이용해, 거부된 샘플들의 θ 값을 선형 보정한다. 저자는 이 조정이 편향을 O(ε³) 까지 감소시킬 수 있음을 증명하고, 동시에 분산은 O(1/(n·h^d)) (여기서 n 은 시뮬레이션 횟수, h 는 커널 폭, d 는 요약통계 차원) 형태로 표현한다. 그러나 선형 조정은 요약통계와 파라미터 사이의 관계가 비선형이거나 이분산(heteroscedastic)일 경우 오히려 편향을 증가시킬 위험이 있다.

이에 대한 대안으로 제안된 2차 조정(quadratic adjustment)은 θ = a + b·(s‑s_obs) + c·(s‑s_obs)² + error 형식의 회귀를 적용한다. 저자는 2차 조정의 편향식에 1차와 2차 미분항이 포함되지만, 1차항이 소멸하고 2차항만 남아 선형 조정보다 적은 항을 포함한다는 점을 강조한다. 결과적으로, 관계가 거의 등분산일 때 2차 조정은 편향을 O(ε⁴) 까지 억제하면서 분산 증가가 제한적이다.

핵심적인 실용적 제안은 요약통계의 변환이다. 저자는 로그·제곱근·Box‑Cox 변환을 통해 Var(θ|s) 가 s 에 거의 독립적인 등분산 형태에 가깝게 만들 수 있음을 시뮬레이션을 통해 입증한다. 변환 후에는 선형·2차 조정 모두가 거부 샘플링 대비 평균 제곱오차(MSE)에서 현저히 우수한 결과를 보인다.

마지막으로, 인구유전학 모델(예: Wright‑Fisher 확산, 선택 강도 추정)과 전염병 모델(예: SIR 모델의 전염률 추정)에서 실제 데이터와 시뮬레이션을 비교한다. 변환된 요약통계와 2차 조정을 결합했을 때, 사후분포의 중앙값과 신뢰구간이 기존 방법보다 실제 파라미터에 더 가깝게 추정됨을 확인한다. 전체적으로 논문은 비모수적 ABC 추정기의 이론적 한계를 명확히 규정하고, 조정과 변환을 통한 실용적 개선 방안을 제시한다.