데이터 행렬 커뮤테이터의 극한 스펙트럼 분포

초록

본 논문은 두 독립 표본 행렬 (X_{1},X_{2}) 으로부터 구성된 스큐-헐미티안 커뮤테이터 (S_{n}^{-}=n^{-1}(X_{1}X_{2}^{}-X_{2}X_{1}^{})) 의 고차원 극한 스펙트럼 분포(LSD)를 연구한다. 차원 (p)와 표본 크기 (n)이 비례((p/n\to c\in(0,\infty)))할 때, 공통 분산 행렬 (\Sigma_{1},\Sigma_{2})가 서로 가환하고 그 고유값 분포가 약하게 수렴한다면, (S_{n}^{-})의 경험 스펙트럼은 순수히 허수축에 지지되는 비무작위 한 분포로 수렴한다. 이 LSD는 스투델리츠 변환이 마르첸코‑파스토르형 함수 방정식 시스템을 만족함으로써 명시적으로 기술된다. 또한, 동등한 가정 하에 반커뮤테이터 (S_{n}^{+}=n^{-1}(X_{1}X_{2}^{}+X_{2}X_{1}^{})) 의 LSD가 실축에 지지함을 보인다.

상세 분석

논문은 고차원 확률 행렬 이론의 최신 흐름을 두 개의 직사각형 데이터 행렬에 적용함으로써 새로운 클래스의 스큐-헐미티안 행렬을 제시한다. 핵심 모델은 (X_{k}= \Sigma_{k}^{1/2} Z_{k}) ((k=1,2)) 로, (Z_{k})는 독립적인 복소 정규가 아닌 항등분산 원소를 가진 (p\times n) 행렬이며, (\Sigma_{k})는 서로 가환하는 양정정(positive semi‑definite) 행렬이다. 가정은 다음과 같다. (i) 차원 비율 (p/n\to c\in(0,\infty)); (ii) 각 원소의 4차 이상 모멘트가 충분히 존재; (iii) (\Sigma_{1},\Sigma_{2})의 공동 경험 고유값 분포(JESD)가 한계 측정 (\mathcal H)로 약하게 수렴한다. 이러한 전제 하에 저자들은 스큐‑헐미티안 행렬 (S_{n}^{-})의 고유값이 순수히 허수이며, 이를 허수축 위의 확률 측정으로 재정의한다. 기존의 실축 전용 스투델리츠 변환 정의를 허수축에 맞게 변형하고, 레비 거리와 균등 거리 개념을 그대로 옮겨 약한 수렴을 다룰 수 있게 했다.

주요 정리는 Theorem 4.1으로, (s_{n}(z)=\frac{1}{p}\operatorname{tr}(S_{n}-zI)^{-1}) 라는 스투델리츠 변환이 복소 평면의 왼쪽 반평면 (\mathbb C_{L})에서 정의되고, 두 개의 보조 함수 (h_{k}(z)=\frac{1}{p}\operatorname{tr}(\Sigma_{k}(S_{n}-zI)^{-1})) 와 함께 다음 시스템을 만족한다는 점이다.

\