알고리즘을 넘어선 보편적 검정: 불일치 발산으로 보는 가설 테스트 혁신

초록

Hoeffding의 보편 검정은 경험분포와 영가설 간 K‑L 발산을 이용한다. 본 논문은 K‑L을 완화한 ‘불일치 발산(mismatched divergence)’을 도입해 검정통계량을 수정하고, 이를 파라미터화된 대안분포 집합에 대한 GLRT로 해석한다. 특정 지수족에서는 기존 Hoeffding 검정과 동일한 오류 지수(exponent)를 보이며, 알파‑오차(제1종 오류) 하에서 검정통계량의 분산이 알파벳 크기에 비례하는 K‑L 대비, 파라미터 차원에만 비례하는 불일치 발산은 실용적 샘플 크기에서 큰 이점을 제공한다.

상세 분석

본 논문은 보편 가설 검정 문제를 새로운 시각에서 재조명한다. 전통적인 Hoeffding 검정은 경험분포와 영가설 분포 사이의 Kullback‑Leibler(K‑L) 발산을 검정통계량으로 사용한다. K‑L 발산은 정보이론적으로 최적이지만, 알파벳 크기 |𝒳|가 커질수록 검정통계량의 분산이 O(|𝒳|)로 선형 증가한다는 실용적 한계가 있다. 저자들은 이를 완화하기 위해 ‘불일치 발산(mismatched divergence)’이라는 새로운 발산 개념을 도입한다. 불일치 발산은 사전 정의된 함수 클래스 𝔽={fθ,θ∈Θ}에 대해, 경험분포 P̂와 영가설 Q 사이의 최적 파라미터 θ̂를 찾는 최적화 문제로 정의된다. 즉, D𝔽(P̂‖Q)=supθ∈Θ{E_{P̂}