베이즈 요인 함수와 비국소 사전분포의 새로운 접근

초록

이 논문은 z, t, χ², F 통계량의 표본분포를 이용해 비국소 대안 사전인 역모멘트(inverse‑moment)와 역감마(inverse‑gamma) 분포를 정의하고, 이를 기반으로 베이즈 요인 함수(BFF)를 구축한다. BFF는 대안 사전의 하이퍼파라미터(표준화 효과 크기)와 베이즈 요인의 관계를 시각화해 주며, 로컬 사전과 비교해 더 빠른 증거 축적과 우수한 빈도론적 특성을 보인다. 또한 복제 실험 설계에 적용해 메타분석에 활용하는 방법을 제시한다.

상세 분석

본 연구는 전통적인 베이즈 요인(BF)이 단일 사전 하이퍼파라미터에 의존하는 한계를 극복하고자, “베이즈 요인 함수”(BFF)라는 개념을 도입한다. BFF는 검정 통계량 x 의 관측값에 대해, 대안 가설 H₁ 의 비국소 사전 g(λ | ψ) 에 포함된 하이퍼파라미터 ψ (또는 변환된 ξ) 를 변수로 하는 함수 BF₁₀(x | ψ) 을 연속적으로 표시한다. 논문은 특히 z, t, χ², F 통계량에 대해, 비국소 사전으로 역모멘트 분포 I(λ | τ, ν) 와 역감마 분포 IG(λ | τ, ν/2) 을 선택한다. 이 사전들은 λ = 0(즉, 영가설)에서 확률밀도가 0에 수렴하므로, 영가설과 대안 가설을 명확히 구분하고, 영가설이 참일 때 베이즈 요인이 지수적으로(∝ exp(−c√n)) 감소한다는 강력한 수렴 속도를 보인다. 이는 기존의 로컬 정규·감마 사전이 보여주는 Oₚ(n^{−r−½}) 수렴보다 훨씬 빠른 결과이며, 실제 표본 크기가 제한된 상황에서도 보다 안정적인 증거 판단을 가능하게 한다.

핵심적인 이론적 기여는 네 가지 정리(3.1–3.4)로 요약된다. 각각 z, t, χ², F 검정에 대해, 대안 사전이 역모멘트·역감마 형태일 때 영가설이 참이면 베이즈 요인이 Oₚ(exp(−c√n)) 수렴한다는 것을 증명한다. 반대로, 대안이 참일 경우 베이즈 요인 BF₀₁ 은 Oₚ(exp(−cn)) 수렴한다는 일반적인 결과와 일치한다. 이러한 비대칭 수렴 특성은 “비국소 사전”이 영가설과 대안을 구분하는 데 효율적임을 이론적으로 뒷받침한다.

실용적인 측면에서는 사전의 하이퍼파라미터 τ, ν 를 표준화 효과 ω (= μ/σ)와 표본 크기 n 을 이용해 직접 지정한다. 예를 들어, τ = n(ν+1)ω₁²/2 와 같이 설정하면, 사전의 모드가 지정된 효과 크기 ω₁ 에 정확히 일치한다. 이렇게 하면 BFF를 “표준화 효과 대비 베이즈 요인”이라는 직관적인 좌표계에 매핑할 수 있다. 논문은 z = 1, n = 100, ν = 1 인 경우를 시뮬레이션으로 보여주며, ω₁ 가 증가할수록 로그 베이즈 요인(log BF)이 급격히 감소해 영가설에 대한 강한 지지를 나타낸다. 또한 Cauchy 사전과의 비교를 통해, 동일한 효과 크기 범위에서도 비국소 사전이 더 명확한 증거 구분을 제공함을 시각적으로 확인한다.

다음으로, Wagensmakers & Grasman(2025)의 기대 사후 확률 평등식 DEP 을 활용해, 서로 다른 사전군 간의 평균 사후 확률을 직접 비교한다. 이는 BFF가 실제 데이터에서 어떤 사전이 더 “공정”하게 작동하는지를 정량화하는 도구가 된다. 실험 결과, 역모멘트·역감마 사전이 로컬 정규·감마 사전에 비해 영가설과 대안 모두에서 높은 평균 사후 확률을 달성한다는 것이 확인되었다.

마지막으로, 복제 실험 설계에 BFF를 적용한다. 각 실험마다 표본 크기에 따라 비국소 사전의 비중을 조정함으로써, 효과 크기 ω 에 대한 계층적 베이즈 모델을 구축한다. 이는 메타분석에서 개별 연구의 베이즈 요인을 직접 합산하는 대신, 공통의 효과 분포를 추정함으로써 보다 일관된 결론을 도출하게 한다. 전체적으로, 이 논문은 베이즈 요인 함수를 통해 사전 선택의 불확실성을 시각화하고, 비국소 사전이 제공하는 통계적·실용적 이점을 체계적으로 입증한다.