베이지안 두 표본 검정

초록

본 논문은 두 표본 문제에 대한 베이지안 접근법을 두 가지로 제시한다. 첫 번째는 지수형 가족과 그 공액 사전(prior)을 이용해 기존 베이지안 t‑검정을 일반화한 방법이며, 두 번째는 이러한 공액‑지수형 분포들의 디리클레 과정 혼합(DPM)을 사용해 비모수적 유연성을 부여한 방법이다. 두 접근법 모두 사후 확률을 통해 귀무가설(두 표본이 동일한 분포에서 추출)과 대립가설을 비교한다. 실험 결과, 제안된 베이지안 검정은 전통적인 빈도주의 검정보다 작은 표본에서도 강건한 성능을 보이며, 비정규분포나 다중모드 구조에서도 유연하게 적용 가능함을 확인한다.

상세 분석

이 논문은 두 표본 검정이라는 고전적인 통계 문제에 베이지안 프레임워크를 적용함으로써, 기존 빈도주의 방법이 갖는 몇 가지 한계를 극복하고자 한다. 첫 번째 클래스는 “베이지안 t‑검정”을 확장한 형태로, 지수형 가족(exp‑family) 분포와 그에 대응하는 공액 사전(conjugate prior)을 이용한다. 지수형 가족은 정규, 포아송, 베르누이, 감마 등 다양한 분포를 포괄하므로, 이 접근법은 모델 선택에 있어 높은 일반성을 제공한다. 사전은 파라미터 공간을 정규화된 형태로 유지하면서, 데이터가 관측될 때 사후분포가 동일한 형태를 유지하도록 설계된다. 이때 귀무가설 H0는 두 표본이 동일한 파라미터(즉, 동일한 분포)에서 추출되었다는 것이고, 대립가설 H1은 파라미터가 서로 다르다는 것이다. 베이지안 모델 선택 기준인 베이즈 팩터(Bayes factor)를 계산함으로써, 두 가설 간 상대적 증거를 정량화한다. 특히, 베이즈 팩터는 사전 선택에 민감하지만, 논문에서는 비정보적 사전과 약간의 정보적 사전을 모두 실험하여 결과의 안정성을 검증한다.

두 번째 클래스는 비모수적 접근을 도입한다. 여기서는 공액‑지수형 분포들을 기본 구성 요소로 하는 디리클레 과정 혼합(Dirichlet Process Mixture, DPM) 모델을 사용한다. DPM은 무한히 많은 혼합 성분을 허용함으로써, 실제 데이터가 복잡한 다중모드 구조, 비대칭성, 혹은 꼬리 무게가 큰 분포를 가질 경우에도 적절히 근사할 수 있다. 논문은 DPM의 하이퍼파라미터(예: 집중도 파라미터 α)를 베이지안 방식으로 추정하고, 마르코프 체인 몬테 카를로(MCMC) 샘플링을 통해 사후 분포를 얻는다. 두 표본에 대해 각각 독립적인 DPM을 적합한 뒤, 사후 예측 분포 간의 차이를 측정하는 새로운 베이즈 팩터를 정의한다. 이 방법은 사전 가정이 거의 없으면서도, 데이터가 충분히 많을 때는 전통적인 파라메트릭 베이지안 검정과 동일한 결과에 수렴한다는 점에서 이론적 일관성을 보인다.

실험 섹션에서는 합성 데이터와 실제 데이터(예: 유전형 데이터, 이미지 색상 히스토그램)를 사용해 두 클래스의 성능을 비교한다. 파라메트릭 베이지안 검정은 정규성 가정이 위배될 때 검정력(power)이 급격히 감소하는 반면, DPM 기반 검정은 이러한 상황에서도 비교적 높은 검정력을 유지한다. 또한, 표본 크기가 작을 때도 베이즈 팩터가 안정적인 값을 제공함을 보여준다. 마지막으로, 기존의 빈도주의 t‑검정, Mann‑Whitney U 검정, Kolmogorov‑Smirnov 검정과 비교했을 때, 제안된 베이지안 방법들은 사전 정보를 적절히 활용함으로써 오류 제어와 검정력 사이의 균형을 더 잘 맞춘다.

이 논문의 주요 기여는 (1) 지수형 가족 전반에 적용 가능한 베이지안 두 표본 검정 프레임워크, (2) 디리클레 과정 혼합을 이용한 비모수적 베이지안 검정, (3) 두 방법 모두에 대해 베이즈 팩터 기반의 명확한 가설 비교 절차를 제공한 점이다. 이러한 접근은 통계적 가설 검정이 요구되는 다양한 분야—의학, 생물정보학, 신호 처리—에서 사전 지식과 데이터 특성을 동시에 반영한 보다 유연하고 해석 가능한 결론을 도출하는 데 활용될 수 있다.