연속 분할을 이용한 다중 검정 절차와 가족 오류 제어

본 논문은 다중 가설 검정에서 흔히 직면하는 두 가지 핵심 질문, 즉 “어디에서 귀무가설이 위배되는가?”와 “전체 오류 확률을 어떻게 제어할 것인가?”에 대한 새로운 접근법을 제시한다. 전통적인 FWER 제어 방법은 보통 Bonferroni, 폐쇄 검정, Holm 절차 등을 이용해 전체 오류 확률을 사전에 정한 α 이하로 제한한다. 그러나 검정 수가 많아질수록 각 검정에 할당되는 유의 수준이 작아져 검정력, 즉 실제 효과를 발견할 확률이 급격히 감소한다. 반면, FDR 제어는 기대되는 거짓 발견 비율만을 제한함으로써 검정력을 회복하지만, 개별 가설에 대한 확신을 제공하지 못한다. 이러한 배경에서 Heinrich, Bach, Kornmeier(2008)가 제안한 “Conquer and Divide”(CaD) 절차가 등장한다. CaD는 탐색 공간을 트리 구조로 모델링하고, 루트에서 시작해 하위 노드로 내려가며 순차적으로 검정을 수행한다. 각 노드 v에 대해 귀무가설 H₀(v)를 검정하고, 기각될 경우에만 그 하위 노드들을 계속 탐색한다. 최초로 귀무가설이 채택되는 노드에서 해당 경로를 중단하고, 그 이전에 기각된 모든 가설을 최종적으로 채택한다. 이 과정은 “zoom‑in” 효과를 제공해, 매우 작은 p값을 가진 영역을 깊게 탐색하면서, 큰 p값을 가진 영역은 조기에 배제한다. 핵심 이론적 전제는 로컬 보넬리 조건(LB)이다. 트리의 각 노드 v에 할당된 유의 수준 α(v)는 그 하위 노드들의 α값들의 합이 α(v) 이하가 되도록 설정한다. 즉, α(v) ≥ Σ_{v'∈d(v)} α(v')이며, 여기서 d(v) 는 v의 직계 후손 집합이다. 이 조건은 전통적인 보넬리 보정이 트리 전체에 걸쳐 재귀적으로 적용된 형태이며, 트리 깊이에 따라 점점 더 엄격한 기준을 부과한다. 논문은 (1) CaD 절차가 FWER를 α(root) 이하로 제어함을 수학적으로 증명한다. 증명은 먼저 오류가 발생하면 반드시 F 집합(첫 번째로 귀무가설이 참인 노드) 내의 어떤 노드에서 발생한다는 사실을 이용한다. F 집합은 트리 상에서 “첫 번째 진실”을 의미하며, 오류가 발생하면 반드시 이 집합에 포함된 노드에서 최초로 기각된 가설이 존재한다. 이후 완전 서브트리마다 α값들의 합이 루트 노드의 α값을 초과하지 않음을 귀납적으로 보여, 전체 오류 확률이 α로 제한됨을 확보한다. (2) CaD는 단일 가설 검정에 국한되지 않는다. 각 노드 v가 자체적인 다중 검정 절차 M(v)를 포함하도록 확장할 수 있다. 예를 들어, v의 하위 가설들을 Holm 절차로 동시에 검정하고, 그 결과가 모두 기각될 경우에만 하위 노드로 내려가는 방식이다. 이 경우 α(v)는 해당 로컬 절차의 전체 가족 오류 수준으로 해석된다. 논문은 이러한 확장된 CaD가 동일한 로컬 보넬리 조건을 만족하면 전체 FWER가 여전히 α 이하임을 보인다. 실제 응용 사례로는 두 가지가 제시된다. 첫째, EEG 데이터 분석에서 시간 구간을 트리 형태로 분할하고, 각 구간에 대해 “비정상적인 신호가 존재한다”는 귀무가설을 검정한다. CaD를 적용하면 작은 구간에서 강한 신호 변화를 빠르게 탐지하면서, 큰 구간에서는 불필요한 검정을 피할 수 있다. 시뮬레이션 결과는 CaD가 보수적이면서도 충분한 검정력을 제공함을 보여준다. 둘째, 웨이브렛 계수 임계값 설정 문제에 CaD를 적용한다. Haar 웨이브렛을 기준으로 계수를 이진 트리 구조로 배열하고, 각 노드에서 “계수가 0이다”는 가설을 검정한다. CaD는 해상도 수준이 높아질수록 더 엄격한 α값을 적용해, 고해상도 계수에 대해 더 보수적인 임계값을 부여한다. 이는 기존의 전역 임계값 방식보다 적응적이며, 신호 복원 품질을 향상시킬 수 있다. 결론적으로, 논문은 트리 기반 순차 검정 절차와 로컬 보넬리 조건을 결합해, FWER를 보장하면서도 검정력을 크게 손상시키지 않는 새로운 다중 검정 프레임워크를 제시한다. 이는 대규모 가설 집합을 다루는 현대 통계·신호 처리 분야에 실용적인 도구가 될 수 있다.