컴팩트 자기수반 연산자 스펙트럼 수렴의 일반적 전개와 커널 Gram 행렬 적용

초록

본 논문은 연산자 노름 교란 하에서 컴팩트하고 자기수반인 연산자의 고유값·고유투영에 대한 비대칭적 비율 확장을 제시한다. 특히 고유값을 임의의 유한 인덱스 집합으로 선택할 수 있도록 일반화했으며, 이를 커널 Gram 행렬에 적용해 쉬운 커널 가정만으로도 농도 부등식과 약수렴 결과를 도출한다.

상세 분석

이 연구는 기존의 고전적 퍼트베이션 이론(리얼리히, 카토)과 최근 통계적 확장(히싱·유밴크, 지라크·와흘 등)을 기반으로, 연산자 노름 수준에서의 교란 ‖Ĥ−H‖ₒₚ가 충분히 작을 때 고유값과 고유투영에 대한 2차까지의 정확한 비대칭적 전개식을 얻는다. 핵심은 “일반 스펙트럼 부분집합” J를 자유롭게 선택할 수 있다는 점이다. J는 단일 고유값, 연속 구간, 혹은 다중 고유값 클러스터 등 어떠한 형태라도 가능하며, 외부 스펙트럼 갭 γ_J = min_{k∈J,ℓ∉J}|λ_k−λ_ℓ|>0만 보장하면 된다. 이때 기존 결과가 내부 갭 γ_{J_j}에 의존해 클러스터 상황에서 급격히 약해지는 반면, 본 논문의 경계식은 오직 γ_J에만 의존한다. 따라서 고유값이 서로 가깝게 모여 있는 경우에도 안정적인 오차 한계를 제공한다.

정리 3.3은 고유투영 차이 ˆP_J−P_J를 ˆS_J와 잔차로 분해하고, ‖ˆP_J−P_J−ˆS_J‖ₒₚ ≤ 8K·(‖Ĥ−H‖ₒₚ/γ_J)² 로 제시한다. 여기서 K는 J에 포함된 서로 다른 고유값의 개수이며, ˆS_J는 교란 연산자를 고유함수 기저에 투사한 형태로 명시된다. 고유값 전개는 두 경우로 나뉜다. 첫 번째는 서로 충분히 분리된 고유값(γ_{J_j}가 큰 경우)으로, 각 클러스터별로 (ˆλ_k−λ_k)≈eig(⟨(Ĥ−H)ψ_k,ψ_ℓ⟩)의 고유값으로 근사한다. 두 번째는 클러스터된 고유값(γ_{J_j}가 작음)으로, 개별 차이 대신 합계 Σ_{k∈J}(ˆλ_k−λ_k)를 ⟨(Ĥ−H)ψ_k,ψ_k⟩의 합으로 근사한다. 이때 오차는 γ_J에 대한 함수로 제어된다.

커널 Gram 행렬에 대한 적용에서는 Mercer 조건을 만족하는 연속 양의 반정밀 커널 h를 가정하고, 해당 RKHS H와 연관된 공분산 연산자 H와 그 경험적 버전 Ĥ_n을 정의한다. 연산자 H는 L²(P)에서 정의된 적분 연산자와 동형이며, 고유함수 {ϕ_k}와 고유값 {λ_k}를 갖는다. 경험적 Gram 행렬 ˆH_n은 샘플 X₁,…,X_n을 통해 정의되며, 이 행렬의 스펙트럼은 Ĥ_n의 스펙트럼과 일대일 대응한다. 본 논문은 앞서 제시한 연산자 수준 전개를 이용해 ‖Ĥ_n−H‖ₒₚ를 확률적 경계(농도 부등식)와 연결하고, 고유값·고유투영의 약수렴을 증명한다. 특히 기존 문헌이 요구하던 고유함수의 복잡한 정규성 조건을 피하고, 커널 자체가 연속·유한 차원에서 유계라는 간단한 가정만으로 충분함을 보인다. 이는 실용적인 머신러닝·통계 응용에서 커널 선택과 검증을 크게 용이하게 만든다.

전체적으로 이 논문은 (1) 스펙트럼 부분집합에 대한 일반화된 교란 전개, (2) 외부 갭만을 이용한 안정적인 오차 제어, (3) 커널 Gram 행렬에 대한 직접적인 확률적 해석이라는 세 축을 통해 기존 이론의 한계를 넘어서는 새로운 프레임워크를 제공한다.