고차원 독립성 검정의 결합 제한법칙과 모델프리 검정 절차

초록

본 논문은 고차원 데이터에서 독립성 검정을 위해 기존의 극값형 통계량(L‑statistic)과 이차형 통계량(S‑statistic)의 결합 제한법칙을 연구한다. 두 통계량이 점근적으로 독립임을 증명하고, 이를 이용해 일반적인 대안 가설에 대해 높은 검정력을 유지하면서도 정확한 크기를 보장하는 모델프리 검정 방법을 제안한다. 또한 제한법칙의 명시적 수렴 속도와 고차원 설정(p≫n)에서의 폐쇄형 영가분포를 제공한다.

상세 분석

이 논문은 고차원 독립성 검정의 두 전통적 접근법, 즉 오프다이어고날 원소들의 제곱합을 이용한 이차형 통계량 (S_n)와 최대 절대값을 이용한 극값형 통계량 (L_n)을 동시에 고려한다. 기존 연구에서는 각각의 통계량이 밀집(alternative dense) 혹은 희소(sparse) 대안에 대해 강점을 보이지만, 서로의 약점을 보완하지 못했다. 저자들은 중간 제한분포(intermediate limiting distribution)를 도입하여 (S_n)와 (L_n)의 결합 제한법칙을 도출하고, 두 통계량이 점근적으로 독립임을 수학적으로 증명한다. 이 독립성은 고전적인 합과 최대값의 독립성 결과(예: Chow‑Teugels, Hsing 등)와 유사하지만, 여기서는 고차원 U‑통계량의 복잡한 의존 구조를 다루어야 하므로 기존 결과를 직접 적용할 수 없었다.

주요 정리는 다음과 같다.

1. Lemma 1에서는 (S_n)의 정규화된 형태가 표준 정규분포에 균등하게 수렴함을 보이며, 수렴 속도는 차원 (p)와 표본크기 (n)의 비율에 따라 두 경우((p\gg n^{5/3})와 (p=O(n^{5/3})))로 구분된다.
2. Lemma 2는 (L_n)의 중간 제한분포 (F(y))에 대한 균등 수렴 속도를 제시한다. 여기서 (F(y))는 Gumbel 분포에 수렴하지만, 실제 수렴이 느리므로 중간분포를 이용해 보정한다.
3. Theorem 1은 (S_n)와 (L_n)의 결합 분포가 각각의 주변분포의 곱과 차이가 (O(\min(p^{-1/5},p^{,n/p}))) 수준임을 보여, 두 통계량이 점근적으로 독립임을 확인한다.
4. Theorem 2와 Corollary 1은 위 결과를 이용해 최종 결합 제한법칙을 명시적으로 제시하고, 최종 Gumbel‑정규 결합이 실제 적용 시 느린 수렴을 보이므로 중간분포 기반 검정이 실용적임을 강조한다.

또한, 동일한 논리를 비모수적(rank‑based) 통계량 (T_n)와 (M_n)에 적용하여 모델프리 버전을 구축한다. 여기서는 스피어만 순위 상관계수를 이용해 정규성 가정을 완전히 제거한다. 두 쌍 ((S_n,L_n))와 ((T_n,M_n)) 모두 점근적으로 독립이므로, 각각의 통계량을 독립적으로 임계값을 설정한 뒤 결합 검정 통계량을 구성할 수 있다.

제안된 결합 검정 절차 (TS_{1n})와 (TS_{2n})는 다음과 같은 장점을 가진다.

• 일반 대안에 대한 강건성: 밀집·희소 어느 쪽이든 높은 검정력을 유지한다.
• 모델프리 특성: 정규성 가정이 필요 없으며, 순위 기반 통계량을 사용해 비정규 데이터에도 적용 가능하다.
• 정확한 크기 유지: 중간 제한분포를 활용해 영가분포의 수렴 오차를 보정함으로써 실제 유의수준이 이론적 수준에 가깝게 유지된다.

시뮬레이션 결과는 제안된 검정이 기존의 단일 통계량 기반 검정보다 전반적으로 우수함을 보여준다. 특히, 대안이 희소하면서도 변동이 작을 때(극값형 검정이 약한 경우)와 대안이 밀집하지만 변동이 작을 때(이차형 검정이 약한 경우) 모두 높은 검정력을 기록한다.

이 논문의 주요 기여는 (1) 고차원 환경에서 극값형과 이차형 통계량의 결합 제한법칙을 최초로 엄밀히 증명한 점, (2) 두 통계량이 점근적으로 독립임을 이용해 모델프리 결합 검정을 설계한 점, (3) 수렴 속도와 중간 제한분포를 명시적으로 제공해 실제 적용 시 발생할 수 있는 크기 왜곡을 이론적으로 해결한 점이다. 이러한 결과는 고차원 통계, 금융공학, 유전학 등 대규모 상관구조 검정이 필요한 분야에 널리 활용될 수 있다.