비동질 랜덤 행렬의 변형에서 나타나는 아웃라이어와 BBP 전이

초록

본 논문은 비동질(variance profile이 비균일) 랜덤 행렬에 저랭크 가법 변형을 가했을 때, 최대 엔트리 분산(희소성 지표) 조건 σ*_N√log N→0 하에서 BBP(베이크-베이리-피어스) 전이를 LLN 수준에서 정확히 규명하고, 가우시안 경우에 한해 아웃라이어 고유값의 비보편적 플럭투에이션을 명시적인 랜덤 행렬 형태로 기술한다. 증명은 리본 그래프 전개와 다이어그램 함수의 상한 추정, 대모멘트 분석을 활용한다.

상세 분석

이 연구는 기존의 평균장(mean‑field) Wigner·Wishart 모델을 넘어, 엔트리별 분산이 임의의 대칭 확률 행렬 P_N= (σ_{ij}^2) 로 정의되는 비동질 랜덤 행렬(H_N) 에 대해 체계적인 스펙트럼 분석을 수행한다. 핵심 난이도는 최대 분산 σ*N= max{i,j}σ_{ij} 가 희소성을 나타내는 파라미터라는 점이다. 저랭크 결정적 변형 A_N (rank r) 을 더한 X_N=H_N+A_N 에 대해 두 가지 질문을 제기한다. 첫째, σ*_N√log N→0 라는 “희소성 임계” 하에서 BBP 전이가 LLN 수준에서 성립하는가? 둘째, 같은 조건에서 아웃라이어 고유값의 미세한 플럭투에이션 분포는 어떻게 되는가?

Theorem 1.2는 (r+1)σ*N√log N→0 일 때, 변형된 행렬 X_N 의 가장 큰 j번째 고유값 λ_j(X_N) 가 a_j≤1이면 2 로, a_j>1이면 ρ{a_j}=a_j+1/a_j 로 수렴함을 보인다. 여기서 a_j는 변형 행렬 A_N 의 비자명 고유값이며, 음의 측면도 대칭적으로 다룬다. 이는 기존 평균장 모델에서 알려진 BBP 임계값 a_c=1 을 그대로 유지하지만, 희소성 조건이 추가된 점이 새롭다.

Theorem 1.3은 가우시안 Wigner 부분(W_GβE) 을 가정하고, 변형 행렬 A_N 의 고유값 중 a>1 인 q개가 동일한 경우(다중 스파이크) 플럭투에이션을 구체화한다. 핵심은 σ*N log N→0 조건 하에서 a²(a²−1)σ*N (λ_i(X_N)−ρ_a) (i=1,…,q) 가 Z_β = Q_β (H_ID + H_Gaussian + H_Diag) Q_β^*
의 고유값으로 수렴한다는 점이다. 여기서 Q_β 는 U (A_N 의 고유벡터 행렬)의 앞 q 행을 추출한 부분행렬, H_ID 은 σ{mi,mj}·W{mi,mj} 로 구성된 deterministic Gaussian, H_Gaussian 은 √g_{ij}·W_{ij} 로 정의된 표준 가우시안, H_Diag 은 (τ_i−χ_i) 의 분산을 갖는 독립 대각 Gaussian 으로 이루어진다. g_{ij}, σ_{ij}, χ_i, τ_i 는 각각 분산 프로파일과 4차 모멘트의 극한값으로, 변형 행렬과 분산 구조가 플럭투에이션에 직접적인 영향을 미친다. 따라서 플럭투에이션은 보편적 Tracy‑Widom 형태가 아니라, 변형 고유벡터와 희소성 스케일에 따라 달라지는 비보편적 분포를 갖는다.

증명 전략은 리본 그래프 전개를 이용해 고차 모멘트를 다이어그램 형태로 표현하고, “전형적”과 “비전형적” 다이어그램을 구분한다. 전형적 다이어그램은 대수적으로 지배적인 기여를 하며, 이를 통해 상한 함수를 정의하고, 대모멘트 추정과 결합해 기대값과 변동성을 제어한다. 또한 GOE/GUE 가 IRM 을 지배한다는 “dominance” 결과를 활용해 비가우시안 경우에도 유사한 구조를 기대할 수 있음을 시사한다.

이 논문은 희소성(σ*_N)과 변형 스파이크 강도(a_j) 사이의 정밀한 상호작용을 밝혀, 비동질 랜덤 행렬 분야에서 BBP 전이와 아웃라이어 플럭투에이션을 최초로 전반적으로 다루었다는 점에서 학문적 의의가 크다.