비분리 표본 공분산 행렬의 이방성 로컬 법칙

본 논문은 고차원 통계·머신러닝 분야에서 핵심적인 역할을 하는 표본 공분산 행렬 \(K=N^{-1}\sum_{i=1}^{N}g_i g_i^{\!*}\)의 스펙트럼을 미세 스케일까지 정확히 기술하는 새로운 이론을 제시한다. 기존 연구는 주로 ‘분리형’ 모델, 즉 \(g=\Sigma^{1/2}w\)와 같이 독립적인 엔트리를 가진 선형 변환에만 적용 가능했으며, 그 결과는 평균 로컬 법칙과 이방성 로컬 법칙 형태로 제한되었다. 그러나 실제 데이터는 비선형 변환, 변수 간 의존성, 조건부 평균 영 등 복잡한 구조를 갖는 경우가 많아, 이러한 제한을 넘어서는 일반적인 비분리 모델에 대한 로컬 법칙이 절실히 요구된다. **1. 연구 배경 및 문제 정의** - 표본 공분산 행렬은 공분산 추정, 주성분 분석, 커널 방법 등 다양한 통계·학습 알고리즘의 핵심이다. - 고차원 비례극한 \(n/N\to\gamma\in(0,\infty)\)에서 마르첸코–파스투르 법칙이 전역적인 스펙트럼 분포를 기술한다. - 로컬 법칙은 스펙트럼을 개별 고유값 간격 수준까지 제어하며, 이는 고유값 강직성, 고유벡터 비국소화, 트레이시-와이드 분포 등 중요한 응용에 필수적이다. **2. 주요 가정** - **Assumption 1·2 (Quadratic Form Concentration)**: 모든 고정 행렬 \(A\)에 대해 \(g^{\!*}Ag-\operatorname{Tr}(\Sigma A)\)가 \(\|A\|_F\)에 비례하는 확률적 집중성을 만족한다. 이는 \(\prec\) 표기법으로 \(|g^{\!*}Ag-\operatorname{Tr}(\Sigma A)|\prec \|A\|_F\)라 표현한다. 로그-소부비에 불평등, 로그-컨케이브 분포, 혹은 적절한 순간조건을 가진 경우에 검증된다. - **Assumption 3 (Cumulant Tensor Structure)**: 고차 누적 텐서 \(\kappa^{(r)}(g)\)가 ‘대각‑근접’ 구조를 갖는다. 즉, 인덱스가 서로 다를 때는 충분히 작은 값으로 억제되며, 독립 엔트리 경우와 일반 의존 경우 사이를 매개한다. 이는 랜덤 피처 모델 등에서 자연스럽게 성립한다. **3. 주요 결과** - **Theorem 2.5 (Averaged Local Law)**: 위 가정만으로도 Stieltjes 변환 \(m(z)=\frac{1}{n}\operatorname{Tr}(K-zI)^{-1}\)가 결정론적 한계 \(m_0(z)\)와 \(|m(z)-m_0(z)|\prec (N\eta)^{-1}\)의 오차로 수렴한다. 이는 \(\eta\ge N^{-1+\varepsilon}\)까지 최적 스케일을 커버한다. 또한 Gram 행렬 \(eK=N^{-1}G^{\!*}G\)에 대한 entrywise 로컬 법칙도 동일하게 얻어진다. - **Theorem 2.8 (Anisotropic Local Law)**: 추가적인 누적 텐서 가정 하에, 임의의 단위 벡터 \(u,v\)에 대해 \(|u^{\!*}R(z)v - u^{\!*}\Pi(z)v|\prec \Psi(z)\)가 성립한다. 여기서 \(R(z)=(K-zI)^{-1}\), \(\Pi(z)=(-zI - z m_0(z)\Sigma)^{-1}\), \(\Psi(z)=\sqrt{\frac{\operatorname{Im} m_0(z)}{N\eta}}+(N\eta)^{-1}\)이다. 이는 기존 분리형 결과를 비분리 상황까지 일반화한 최초의 이방성 로컬 법칙이다. - **Corollaries**: 고유값 강직성(오차가 \(N^{-2/3}\) 수준), 고유벡터 비국소화(모든 고정 좌표에서 \(\|u_i\|^2\approx 1/n\)), 그리고 스펙트럼 필터 \(\phi(K)\)에 대한 고차원 함수적 근사 등을 즉시 도출한다. **4. 텐서 네트워크 기법** - 고차 누적을 직접 다루면 복잡한 다중 합이 발생한다. 저자들은 이를 그래프 이론과 텐서 네트워크로 시각화하여, 각 노드가 누적 텐서, 각 엣지가 행렬 곱을 나타내는 형태로 재구성한다. - 이 구조를 이용해 ‘플럭투에이션 어버리징’ 레마를 일반화하고, 고차 순간이 서로 독립적인 경우와 달리 상호작용을 정밀히 추정한다. - 결과적으로 복잡한 고차 모멘트가 \(\Psi(z)\) 수준 이하로 억제됨을 보이며, 이는 이방성 로컬 법칙 증명에 핵심적인 역할을 한다. **5. 비분리 예시 검증** - **조건부 평균 영 분포**: \(\mathbb{E}