통계적 거리 기반 ABC로 모델 선택 최적화

초록

본 논문은 요약통계에 의존하지 않는 전체 데이터 기반 근사베이즈계산(ABC) 방법을 제안하고, Wasserstein, Cramér‑von Mises, Maximum Mean Discrepancy(MMD)와 같은 통계적 거리(metric)를 이용해 모델 선택의 정확도와 보정성을 체계적으로 평가한다. 시뮬레이션과 두꺼비 이동 모델 사례를 통해 전통적인 요약통계 기반 ABC와 신경망 분류기 대비 전 데이터 ABC가 모델 간 구분이 명확할 때 안정적인 사후 모델 확률을 제공함을 확인한다.

상세 분석

이 연구는 베이지안 모델 선택에서 likelihood가 계산 불가능한 경우, 전통적인 요약통계 기반 ABC가 모델 간 겹침(overlap)이나 요약통계 선택의 민감도 때문에 후방 모델 확률이 잘못 보정되는 문제점을 정확히 짚어낸다. 이를 해결하기 위해 저자들은 데이터 전체를 이용한 통계적 거리(metric)를 적용한 “full‑data ABC” 프레임워크를 제시한다. 구체적으로 Wasserstein 거리, Cramér–von Mises 거리, 그리고 커널 기반 MMD를 사용해 관측 데이터와 시뮬레이션 데이터의 경험적 분포를 직접 비교한다. 이때 거리값이 사전 정의된 허용오차 ε 이하가 되면 해당 파라미터·모델을 받아들이는 방식으로, 기존 요약통계 기반 ABC와 동일한 구조를 유지하면서도 차원 저주(curse of dimensionality)를 회피한다.

이론적으로는 Legraman et al. (2025)의 적분 확률 반거리(IPS) 수렴 결과를 활용해, ε가 표본 크기 n에 따라 0으로 수렴하도록 설계하면, i.i.d. 조건 하에 Wasserstein 거리 기반 ABC는 일관된 파라미터 추정과 모델 선택을 보장한다. 특히 모델들이 Wasserstein 의미에서 충분히 구분될 경우, 거리값의 확률분포가 모델별로 뚜렷이 차이 나므로, ABC‑Wass는 정확한 베이지안 팩터에 수렴한다. 반면, 데이터의 분위수(quantile)가 파라미터 변화에 둔감하거나 모델 간 분포가 크게 겹치는 상황에서는 Wasserstein 거리의 구분력이 약해져 성능이 저하될 수 있다. 이러한 한계를 보완하기 위해 MMD와 CvM 거리도 함께 실험에 포함했으며, 커널 선택과 차원에 따라 서로 다른 강건성을 보였다.

실험 부분에서는 4가지 시뮬레이션 시나리오(단순 정규, 혼합, 시계열 의존, 고차원 구조)를 설정하고, 각 거리 기반 ABC와 요약통계 기반 ABC, 그리고 신경망 기반 분류기(NN‑ABC)를 비교한다. 결과는 (1) 모델이 명확히 구분되는 경우(full‑data ABC가 우수), (2) 모델이 중첩되거나 데이터가 의존성을 가질 때는 모든 방법의 정확도가 감소하지만, 특히 NN‑ABC는 과적합 위험으로 보정된 사후 확률이 편향되는 경향을 보였다.

실제 데이터 적용에서는 Marchand et al. (2017)의 두꺼비 이동 모델을 사용했으며, 전통적인 요약통계 기반 ABC는 이동 거리와 방향을 요약한 몇몇 통계에 의존해 모델 선택이 불안정했지만, Wasserstein 및 MMD 기반 ABC는 전체 궤적 데이터를 활용해 모델 간 차이를 명확히 드러냈다. 이는 전 데이터 ABC가 실제 과학적 문제에서도 요약통계 설계 없이 직접적인 모델 비교가 가능함을 시사한다.

전체적으로 이 논문은 통계적 거리 기반 ABC가 모델 선택에 제공하는 이론적 보증과 실험적 장점을 명확히 제시하고, 거리 선택, 허용오차 설계, 데이터 의존성 등 실용적인 고려사항을 정리함으로써 향후 likelihood‑free 베이지안 모델 선택 연구에 중요한 지침을 제공한다.