빈도주의적 구간 추정: 이항 파라미터와 포아송 평균 비율에 대한 평가

초록

본 논문은 고에너지 물리학에서 검출 효율이나 분기비와 같이 이항 확률 변수 혹은 두 포아송 평균의 비율을 추정할 때 사용되는 신뢰구간의 빈도주의적 커버리지를 체계적으로 검토한다. 데이터의 이산성 때문에 실제 커버리지는 미지 파라미터에 의존하게 되며, 이를 보완하기 위한 다양한 구간 방법(Clopper‑Pearson, 근사법, likelihood‑ratio 기반 등)의 장단점을 비교한다. 특히 파라미터가 아닌 관측 데이터에 대한 무조건적 평균을 취하는 “unconditional” 접근을 제안하고, Lancaster의 mid‑P 수정이 이 경우 우수한 평균 커버리지를 제공함을 보여준다. 엄격한 조건부 커버리지가 필요할 경우는 Clopper‑Pearson 구간과 likelihood‑ratio 검정 기반 구간을 권장한다.

상세 분석

이 논문은 고에너지 물리학(HEP) 실험에서 흔히 마주치는 두 가지 통계적 문제, 즉 이항 확률 변수의 성공률(p) 추정과 두 독립 포아송 과정의 평균(λ₁, λ₂) 비율(θ = λ₁/λ₂) 추정을 다룬다. 두 경우 모두 관측값이 정수이며, 따라서 신뢰구간을 구성할 때 연속적인 근사법을 적용하면 실제 커버리지가 목표 수준(예: 95 %)보다 크게 벗어날 위험이 있다. 전통적인 Clopper‑Pearson(CP) 구간은 “exact”라 불리지만, 실제로는 과도한 보수성(over‑coverage)을 보이며 구간 폭이 크게 늘어나는 단점이 있다. 반면, Wilson, Agresti‑Coull, Jeffreys 등 여러 근사 구간은 평균적으로는 좁은 구간을 제공하지만 파라미터값에 따라 언더커버리지를 일으킬 수 있다.

논문은 이러한 문제를 “조건부 커버리지”(parameter fixed, data random)와 “무조건적 커버리지”(data random, parameter also treated as random variable)라는 두 관점으로 구분한다. 기존 통계학 문헌에서는 무조건적 커버리지를 평가할 때 파라미터에 대해 사전분포를 가정하거나, 파라미터값을 여러 개 샘플링해 평균을 취한다. 그러나 빈도주의 입장에서는 파라미터는 고정된 미지값이며, 사전분포를 도입하는 것은 철학적으로 모순된다. 저자들은 이 점을 지적하고, 대신 관측된 데이터에 대한 평균을 취하는 “unconditional average over observed data” 방식을 제안한다. 이는 포아송 평균 비율 문제에서 특히 자연스럽다. 두 포아송 변수의 합이 또 다른 포아송 변수이므로, 전체 관측량을 고정하고 그 안에서 성공/실패(또는 첫 번째 포아송 사건)의 비율을 재배치하는 형태로 평균을 구한다.

이러한 무조건적 평균을 적용했을 때, Lancaster가 제안한 mid‑P 값이 뛰어난 성능을 보인다. mid‑P는 전통적인 P‑값에 0.5·P(exact) 를 더해, 이산성에 의해 발생하는 과도한 보수성을 완화한다. 논문은 시뮬레이션을 통해 mid‑P 기반 구간이 CP 구간보다 평균 커버리지는 더 정확히 목표 수준에 근접하면서도 구간 폭은 크게 줄어듦을 입증한다. 또한, likelihood‑ratio(LR) 검정을 역으로 적용해 구간을 구성하는 방법을 제시한다. LR 기반 구간은 비대칭(central이 아닌) 구간을 만들 수 있어, 특히 θ가 0 또는 무한에 가까운 경우에 유리하다. 이 방법은 “inverting the LR test” 라는 절차를 통해 직접적인 피벗(pivot) 없이도 정확한 조건부 커버리지를 보장한다.

결론적으로, 저자들은 실무에서 다음과 같은 권고를 내린다. (1) 엄격한 조건부 커버리지가 필수인 경우, 전통적인 CP 구간(중심 구간) 혹은 LR 검정 기반 구간(비중심 구간)을 사용한다. (2) 평균 커버리지를 중시하고 구간 폭을 최소화하고자 할 때는 Lancaster의 mid‑P 수정이 적용된 CP 혹은 LR 구간을 선택한다. 특히 포아송 평균 비율 문제에서는 무조건적 평균을 데이터에 대해 직접 계산함으로써, 파라미터에 대한 사전 가정 없이도 신뢰구간의 품질을 객관적으로 평가할 수 있다. 이러한 접근은 HEP 실험에서 효율, 분기비, 신호 대 배경 비율 등 이산형 측정값을 다룰 때 보다 신뢰성 있는 통계적 결론을 도출하는 데 크게 기여할 것이다.