고차원 표본 공분산 행렬의 계산 효율적 비모수 부트스트랩

초록

본 논문은 차원과 표본 크기가 동시에 크게 증가하는 상황에서, 관측치의 일부 좌표만을 이용해 고차원 공분산 행렬의 고유값 통계량을 부트스트랩하는 새로운 “(m, mp/n) out of (n, p)” 방법을 제안한다. m/n→0이면 경험적 스펙트럼 분포를 일관적으로 복원하고, m²/n→0이면 선형 스펙트럼 통계량의 분포를 정확히 근사한다. 대표 부분집단 조건을 도입해 최소 모멘트 가정만으로 이론적 정당성을 확보하였다.

상세 분석

이 연구는 고차원 랜덤 행렬 이론과 부트스트랩 방법을 결합하여, 기존의 “n out of n” 부트스트랩이 고차원에서 실패한다는 사실을 보완한다. 핵심 아이디어는 원본 데이터의 n개 관측치 중 m개( m≪n )만을 무작위로 선택하고, 각 선택된 관측치에서 q=⌊mp/n⌋개의 좌표만을 다시 무작위로 추출해 차원과 표본 비율 c=p/n을 유지하는 것이다. 이렇게 하면 부트스트랩 샘플의 공분산 행렬은 원본 행렬과 동일한 차원‑표본 비율을 갖게 되므로, Marčenko–Pastur 방정식에 기반한 제한 스펙트럼 분포(LSD)를 일관적으로 재현할 수 있다.

대표 부분집단 조건(Representative Subpopulation Condition, RSC)은 선택된 좌표 집합이 원본 공분산 행렬 Σₙ과 거의 동일한 스펙트럼 특성을 가진다는 가정을 공식화한다. 저자들은 RSC가 대각 행렬, 블록 구조, 저랭크 + 잡음 모델, 그리고 일정한 스펙트럼을 갖는 광범위한 상황에서 자동으로 만족함을 증명한다. 이는 사전적인 Σₙ에 대한 추정 없이도 부트스트랩이 유효함을 의미한다.

이론적 결과는 두 단계로 나뉜다. 첫째, m/n→0이면 경험적 스펙트럼 측도 μ̂ₙ가 부트스트랩 복제 μ̂ₙ*와 weak convergence를 공유한다는 일관성 정리를 보인다. 둘째, m²/n→0이면 선형 스펙트럼 통계량 Lₙ=∑f(λ̂_i) (f는 적당히 매끄러운 함수)의 중심화된 버전이 부트스트랩 복제와 동일한 정규 한계분포를 갖는다는 CLT를 제시한다. 이때 사용된 조건은 X₁의 4차 모멘트 존재와 (A1)–(A3)와 같은 행렬 구조 가정뿐이며, 고차원에서 흔히 요구되는 8차 모멘트 가정보다 훨씬 완화된 것이다.

증명 기법은 비중심 이차형식에 대한 새로운 비대칭 경계, 조합적 트레이스 모멘트 추정, 그리고 조건부 부트스트랩 마팅게일 CLT를 결합한다. 특히, 부트스트랩 과정에서 발생하는 조건부 기대값을 마팅게일 차분으로 해석하고, 이를 Lindeberg–Feller 조건에 맞추어 정규성을 확보한다는 점이 혁신적이다. 또한, q=⌊mp/n⌋ 좌표 선택이 독립적이면서도 전체 스펙트럼을 보존하도록 설계된 점은 계산 복잡도를 O(mp) 수준으로 낮추어, n·p가 수백만 규모인 실제 빅데이터에서도 실용적으로 적용 가능하게 만든다.

실험 결과는 두 가지 시뮬레이션 시나리오(대각 공분산과 블록 구조)를 통해 제시된다. 전통적인 n out of n 부트스트랩은 고차원에서 경험적 스펙트럼과 크게 차이 나는 반면, 제안된 (m, mp/n) 부트스트랩은 제한 스펙트럼과 거의 일치하는 히스토그램을 보여준다. 또한, 선형 스펙트럼 통계량(예: 트레이스, 로그-행렬식)의 분포도 부트스트랩 복제와 이론적 정규분포가 잘 맞는 것을 확인한다.

이 논문은 고차원 통계 추정에서 부트스트랩을 활용하고자 하는 연구자들에게, 최소한의 가정과 낮은 계산 비용으로 신뢰할 수 있는 방법론을 제공한다는 점에서 큰 의의를 가진다. 특히, RSC가 다양한 실제 데이터 구조에 자연스럽게 적용될 수 있다는 점은 향후 고차원 회귀, 주성분 분석, 그리고 신호 처리 분야에 폭넓은 응용 가능성을 시사한다.