희소 비정방 행렬의 유한계수 가법 변형에서 극값 고유값·고유벡터 분석

**1. 서론 및 배경** 본 연구는 랜덤 행렬 이론에서 “외부 고유값(outlier eigenvalues)” 문제를 비정방·희소 행렬에 확장한다. 전통적인 BBP 전이(베이즈·베노이·페체)와 그 일반화는 주로 대칭·Hermitian 행렬에 초점을 맞추었으며, 가법적 유한계수 변형이 스펙트럼에 미치는 영향을 분석했다. 비정방 경우는 복소 고유값의 분포가 원형법칙을 따르며, 희소성은 스펙트럼의 경계와 로컬 통계에 큰 영향을 미친다. 기존 연구(Tao 2013, Bordenave‑Capitaine 2016)는 i.i.d. 전제와 충분한 모멘트 가정 하에 외부 고유값의 존재와 위치를 규명했지만, 희소 행렬에 대한 정밀한 결과는 부족했다. **2. 모델 정의** - \(A_n\) : i.i.d. 복소 확률변수 \(\chi\) (평균 0, 분산 1)로 구성된 \(n\times n\) 행렬. - \(B_n\) : 독립적인 Bernoulli 행렬, 각 원소가 확률 \(K_n/n\) 로 1, 나머지는 0. - \(X_n = (K_n^{-1/2} B_n)\circ A_n\) : 희소 비정방 랜덤 행렬, 기대값 0, 분산 1. - \(E_n = \sum_{t=1}^r u_{t,n} v_{t,n}^\ast\) : 고정된 유한계수(랭크 \(r\)) 변형 행렬, \(\|u_{t,n}\|\|v_{t,n}\|\le C\). - 최종 행렬 \(Y_n = X_n + E_n\). 희소도 파라미터 \(K_n\)는 \(K_n\to\infty\)이면 충분히 큰 희소성을 보장한다. 경우에 따라 \(K_n\)는 \(n\)에 비해 훨씬 작을 수 있다(극히 희소). **3. 주요 가정** - **Assumption 1**: \(K_n\to\infty\). - **Assumption 2**: 변형 벡터들의 노름 곱이 일정 상수 이하. - **Assumption 3**: 외부 영역 \(\{z:|z|>1+\varepsilon\}\)에서 \(E_n\)의 스펙트럼이 최소 거리 \(\varepsilon\) 이상 떨어져 있다. - **Assumption 4**(랭크‑1 전용): \(\liminf_n |\langle v_n,u_n\rangle|>0\). - **Assumption 5**: \(A_{ij}\)는 서브가우시안(지수 꼬리) 분포. **4. 역특성다항식과 무작위 해석함수** 역특성다항식 \(q_n(z)=\det(I_n - zY_n)\)를 분석한다. Bordenave‑Capitaine‑Girot‑Zeitouni(2022)의 프레임워크를 활용해, \(q_n\)를 두 단계로 근사한다. - **Step 1**: Gaussian 변수 \(Z_k\)를 도입해 무작위 해석함수 \(F(z)=\sum_{k\ge1}z^k Z_k\)를 정의. - **Step 2**: 변형 행렬의 고유다항식 \(b_n(z)=\det(I - zE_n)\)와 \(\kappa(z)=b_1 - z^2\mathbb{E}|A_{11}|^2\)를 결합한다. Theorem 1.1은 \