변수 선택 후 회귀 분석에서 신뢰구간 최소 커버리지 확률의 상한

초록

선형 회귀 모델에서 관심 매개변수는 회귀 계수 벡터의 특정 선형 결합으로 정의한다. 실제 분석에서는 먼저 데이터 기반 모델 선택(예: 사전 가설 검정, AIC 최소화 등)을 수행한 뒤, 선택된 모델이 사전에 주어진 것이라고 가정하고 관심 매개변수에 대한 신뢰구간을 구성한다. 그러나 이 가정은 사실과 다르며, 결과적으로 신뢰구간의 커버리지 성능이 크게 저하될 수 있다. 본 논문은 이 신뢰구간의 최소 커버리지 확률에 대한 쉽게 계산 가능한 유한 표본 상한을 제시한다. 상한은 이중 적분을 수치적으로 반복 평가함으로써 얻어지며, 최소 AIC, 최소 BIC, 최대 조정 R², 최소 Mallows’ Cp, t‑검정 등 다양한 모델 선택 방법에 적용 가능하다. 이 상한은 Kabaila와 Leeb가 제시한 대규모 표본 상한의 유한 표본 대응물이며, 설계 행렬과 모델 선택 절차의 일반적인 범주를 구분하여 해당 신뢰구간이 낮은 커버리지를 보이는 경우를 식별하는 데 활용될 수 있다.

상세 요약

이 논문은 회귀 분석에서 변수 선택 절차가 사후에 수행되는 경우, 선택된 모델을 사전에 알았던 것처럼 신뢰구간을 계산하는 전통적인 접근법이 실제 커버리지 확률을 크게 떨어뜨릴 수 있음을 지적한다. 핵심 아이디어는 “선택 후 신뢰구간”이 조건부 확률(선택된 모델이 주어졌을 때)으로만 평가되면, 전체 과정(모델 선택 + 추정)의 불확실성을 반영하지 못한다는 점이다. 저자들은 이러한 문제를 정량화하기 위해 최소 커버리지 확률의 상한을 도출한다. 상한은 두 차원(모델 선택 기준과 회귀 계수)의 파라미터 공간에 대해 이중 적분을 수행함으로써 얻어지며, 수치적 반복 계산으로 실용적으로 구현 가능하다. 특히, AIC, BIC, 조정 R², Mallows’ Cp, t‑검정 등 널리 사용되는 모델 선택 기준에 모두 적용할 수 있도록 일반화된 형태를 제시한다는 점이 의의다.

이 상한은 기존에 Kabaila와 Leeb가 대규모 표본 이론을 바탕으로 제시한 결과의 유한 표본 버전이다. 대규모 표본에서는 선택 절차가 점근적으로 정상성을 띠어 상한이 정확히 추정되지만, 실제 데이터에서는 표본 크기가 제한적이므로 정확한 커버리지 평가가 어려워진다. 따라서 저자들이 제안한 수치적 상한은 실제 연구자가 모델 선택 후 신뢰구간을 사용할 때, “최악의 경우” 커버리지가 어느 정도 이하로 떨어질 수 있는지를 사전에 파악하게 해준다.

실제 적용 사례를 통해, 설계 행렬(예: 다중공선성 정도, 변수 간 상관구조)와 선택 절차(예: 보수적인 AIC vs. 공격적인 t‑검정)의 조합에 따라 커버리지가 급격히 감소하는 구역이 존재함을 확인한다. 이는 연구자가 변수 선택 단계에서 과도하게 복잡한 모델을 선택하거나, 선택 기준이 지나치게 관대할 경우, 사후 신뢰구간이 거의 무효화될 위험이 있음을 경고한다.

결론적으로, 이 논문은 변수 선택 후 신뢰구간의 신뢰성을 평가할 수 있는 실용적인 도구를 제공함으로써, 통계 실무자에게 모델 선택 단계에서의 불확실성을 명시적으로 고려하도록 촉구한다. 또한, 설계 단계에서 변수 간 상관관계와 표본 크기를 적절히 조정하면, 상한이 크게 완화되어 보다 안정적인 추정이 가능함을 시사한다.