조건부 독립성 검정의 실용적 어려움과 커널 기반 접근법 분석

초록

본 논문은 조건부 독립성(CI) 검정의 이론적 불가능성 결과가 실제 실험에서 관찰되는 오류 원인을 충분히 설명하지 못한다는 점을 지적하고, 커널 기반 조건부 독립성(KCI) 테스트와 그 변형인 GCM(Generalized Covariance Measure)의 구조적 관계를 밝힌다. 핵심은 조건부 평균 임베딩(conditional mean embedding) 추정 오류가 Type‑I 오류를 크게 유발한다는 것이며, 적절한 조건 변수 커널 선택이 검정 파워를 높이는 동시에 Type‑I 오류를 악화시킬 수 있음을 실험과 이론을 통해 보여준다.

상세 분석

이 논문은 Shah와 Peters(2020)의 “조건부 독립성 검정은 일반적인 유한표본에서 유효한 검정을 설계할 수 없다”는 불가능성 정리를 출발점으로 삼아, 실제 연구자들이 흔히 사용하는 KCI와 GCM 계열 검정이 왜 빈번히 Type‑I 오류를 범하는지를 체계적으로 분석한다. 먼저, 조건부 독립성의 정의를 Daudin(1980)의 함수형 관점으로 재정리하고, 이를 RKHS(재생 커널 힐베르트 공간) 내의 함수들로 제한함으로써 KCI 연산자를 도입한다. KCI 연산자는 조건부 평균 임베딩 μ_{A|C}(c), μ_{B|C}(c)와 조건부 교차공분산 연산자 C_{AB|C}(c)를 결합해, 모든 테스트 함수 f∈H_A, g∈H_B, w∈H_C에 대해 ⟨f⊗g, C_{KCI} w⟩가 조건부 공분산의 가중 평균이 되도록 설계된다.

핵심적인 기술적 통찰은 GCM이 KCI의 특수한 경우라는 점이다. A와 B가 스칼라이고, φ_A, φ_B를 선형 매핑(즉, φ_A(a)=a, φ_B(b)=b)으로 잡으며, C 커널을 k_C(c,c′)=w(c)w(c′) 형태로 설정하면, KCI 연산자는 GCM이 추정하는 가중 평균 공분산과 동일해진다. 따라서 GCM이 “단순히 회귀 잔차의 공분산을 측정한다”는 직관은 KCI가 실제로는 조건부 평균 임베딩을 추정하고 이를 통해 교차공분산 연산자를 구성한다는 보다 일반적인 프레임워크 안에 포함된다.

조건부 평균 임베딩 추정은 커널 리그레션을 통해 수행되는데, 이 과정에서 발생하는 추정 오차가 KCI 통계량의 기대값과 분산을 왜곡한다. 논문은 간단한 2차원 예시와 일반적인 U‑통계 이론을 이용해, 추정 오차가 KCI 통계량에 선형·이차 항으로 들어가면서 실제 null 분포가 이론적 χ² 혼합분포보다 크게 변동함을 보인다. 이로 인해 기존에 제안된 임계값 t_n(예: ˜t_n = 32 κ_A κ_B κ_C q_{1−α}/n)은 과도하게 보수적이면서도, 실제 데이터에서는 추정 오차가 누적돼 Type‑I 오류를 급격히 증가시킨다.

또한, C 커널 선택의 중요성을 강조한다. C 커널이 데이터의 구조적 변동을 충분히 포착하지 못하면, 조건부 평균 임베딩이 크게 편향되고, 이는 검정 파워를 저하시킨다. 반대로, 지나치게 복잡한 커널(예: 작은 밴드위스의 RBF 커널)을 사용하면 편향은 감소하지만 분산이 커져서 허위 재거율이 상승한다. 논문은 교차 검증 기반의 커널 하이퍼파라미터 선택 방법을 제안하고, 이를 통해 파워와 Type‑I 오류 사이의 트레이드오프를 실험적으로 확인한다.

마지막으로, 조건부 평균 임베딩 추정 오류와 커널 선택이 결합된 상황에서, KCI와 GCM이 여전히 유효한 검정이 될 수 있는 충분조건을 정리한다. 구체적으로, (i) 커널이 L²‑유니버설하고 (ii) 추정 오차가 O_p(n^{-1/2}) 이하로 수렴하며 (iii) 선택된 C 커널이 조건부 분포의 주요 변동을 포착할 경우, KCI 통계량은 점근적으로 χ² 혼합분포에 수렴하고, 따라서 유한표본에서도 제한된 수준의 Type‑I 오류 보장을 제공한다. 이 결과는 Shah‑Peters의 불가능성 정리와는 별개로, “특정한 구조적 가정 하에” 실용적인 CI 검정이 가능함을 의미한다.