슈퍼통계 기반 위시트라거레 행렬의 새로운 일반화

초록

본 논문은 Beck‑Cohen의 슈퍼통계 개념을 적용해, 표준 위시트‑라거레(Wishart‑Laguerre) 행렬에 변동성을 부여한 일반화된 앙상블을 체계적으로 구축한다. 변동성 파라미터 η를 χ², 역 χ², 로그정규 분포 중 하나로 가정하고, 특히 역 χ²‑분포에 대한 정확한 해를 제시한다. 결과적으로 반원법칙과 마르첸코‑퍼트(Marčenko‑Pastur) 법칙이 γ‑변형을 통해 지수적 꼬리를 갖는 비정규 지원 구간으로 확장되며, 레벨 간격 분포 역시 γ‑의존적인 스트레치드‑지수 꼬리를 갖는 새로운 서지를 제안한다. 금융 공분산 행렬 데이터와의 비교를 통해 이론의 실용성을 검증한다.

상세 분석

위시트‑라거레 앙상블은 양의 정부호 행렬의 고유값 통계에 대한 표준 모델로, β=1,2,4의 Dyson 지수를 통해 실수, 복소수, 그리고 쿼터니언 계열을 포괄한다. 기존 연구에서는 행렬 원소들의 분산 η가 고정된 가우시안 분포를 따르는 경우가 대부분이었지만, 실제 복잡계에서는 샘플 간 변동성이 크게 나타난다. Beck와 Cohen이 제안한 슈퍼통계는 이러한 변동성을 확률적 가중치 f(η)로 모델링함으로써, “통계의 통계”를 구현한다. 논문은 먼저 기존에 두 저자가 다룬 χ²‑분포 기반 슈퍼통계 앙상블을 재조명한다. χ²‑분포는 η가 양의 자유도 ν에 따라 γ‑분포 형태를 띠어, 고유값 밀도가 전형적인 파워‑러프(power‑law) 꼬리를 보인다. 그러나 금융 데이터와 같이 급격한 폭발적 변동을 보이는 경우, 역 χ²‑분포가 더 적합할 수 있다. 역 χ²‑분포는 η가 큰 값에서 급격히 감소하고, 작은 η에서 긴 꼬리를 형성한다는 특성을 갖는다.

논문은 역 χ²‑분포 f(η)∝η^{−(γ+1)}exp(−γ/η) (γ>0) 를 도입하고, 이를 위시트‑라거레 행렬의 확률밀도 함수에 삽입한다. 핵심 수학적 절차는 η에 대한 적분을 수행해 전체 앙상블의 커널을 구하는 것으로, 이는 Meijer‑G 함수와 하이퍼지오메트리 함수로 표현된다. 결과적으로, 대규모(N→∞) 한계에서 고유값 밀도 ρ(λ) 는 기존의 반원법칙(β=2, c=1) 혹은 Marčenko‑Pastur 법칙(β=2, c=m/N) 에 γ‑파라미터가 들어간 변형 형태가 된다. 구체적으로 ρ(λ)∝|λ|^{γ−1}K_{γ−1}(2√{γλ})와 같은 형태가 도출되며, 이는 비정규(비컴팩트) 지원 구간을 갖고, λ→∞ 일 때 exp(−2√{γλ})와 같은 지수적 감소를 보인다. 이는 χ²‑베이스 앙상블이 보이는 파워‑러프와는 근본적으로 다른 스펙트럼 꼬리 특성을 제공한다.

레벨 간격 통계에 대해서는 전통적인 Wigner 서지(P(s)=a s^{β}exp(−b s^{2})) 가 위시트‑라거레 경우에도 근사적으로 적용될 수 있음을 검증한다. 그러나 역 χ²‑베이스 앙상블에서는 간격 분포가 단순 가우시안 억제 대신 스트레치드‑지수 형태, 즉 Pγ(s)∝s^{β}exp