초고차원 스케일링에서 켄달 타우의 새로운 마르첸코 파스투르 법칙

초록

본 논문은 변수 차원 p가 표본 수 n의 제곱에 비례하는 초고차원(ultra‑high dimensional) 스케일 (p\sim q’ n^{2}/2) 에서, 켄달 상관행렬의 고유값 분포가 ((1/3)Y_{q’}) — 파라미터 (q’) 를 갖는 마르첸코‑파스투르(MP) 법칙에 스케일링된 형태로 수렴함을 증명한다. 기존의 선형 스케일 (p=O(n)) 결과 ((1/3)+(2/3)Y_q)와는 다른 새로운 LSD가 나타난다.

상세 분석

논문은 먼저 기존 연구(Bandeira et al., 2017)가 제시한 켄달 상관행렬 (\tau_n) 의 Hoeffding 분해를 재정의한다. 각 쌍 ((i,j)) 에 대해 부호 함수 (v_{k}^{(ij)}=\operatorname{sign}(x_{k i}-x_{k j})) 를 평균조건부 기대값 (u_{k}^{(i\cdot)}), (u_{k}^{(\cdot j)}) 와 잔차 (\bar v_{k}^{(ij)}) 로 분해하고, 이를 벡터 (\theta^{(ij)}) 와 (\bar\Theta^{(ij)}) 에 적용한다. 이렇게 하면
\