일반화된 공분산·상관 모델에서 스파이크 고유구조 추정

초록

본 논문은 고차원 스파이크 모델에서 공분산 행렬과 상관 행렬을 동시에 다루며, 일반적인 벌크 스펙트럼을 허용한다. 샘플 스파이크 고유값의 거의 확실한 수렴과 중심극한정리를 제시하고, 스파이크 고유공간의 투사형 함수에 대한 비정규 한계분포를 도출한다. 이를 기반으로 단일표본 주성분 방향 검정과 두 표본 간 스파이크 강도 비교 절차를 개발하고, 정규화(상관 기반 PCA)가 1차 통계량은 동일하지만 2차 변동성에 큰 영향을 미침을 밝힌다. 실증 분석은 주식 수익률 데이터를 이용해 공분산 기반 PCA와 상관 기반 PCA가 서로 다른 해석을 제공함을 보여준다.

상세 분석

본 연구는 고차원 데이터에서 흔히 가정되는 Johnstone의 스파이크 모델을 일반화하여, 벌크(eigenvalue bulk) 부분이 반드시 단위 행렬일 필요 없이 임의의 분포를 가질 수 있도록 확장하였다. 이를 위해 두 종류의 표본 행렬, 즉 샘플 공분산 행렬 S와 샘플 상관 행렬 (\widehat{\mathbf R})를 동시에 분석한다. 핵심 가정 A1–A4는 (i) i.i.d. 표본의 4차 모멘트가 유한함, (ii) 벌크 상관(공분산) 행렬의 경험적 스펙트럼이 비퇴화된 확률분포 (H_R) (또는 (H_\Sigma))에 수렴, (iii) 차원 비율 (y=p/n) 이 양의 상수로 수렴, (iv) 스파이크값 (\alpha_k)가 벌크 스펙트럼의 지지집합 밖에 위치하고 (\phi’y(\alpha_k)>0) 을 만족한다는 ‘분리 가능성(separability)’ 조건이다. 이러한 가정 하에, 저자들은 먼저 스파이크 고유값에 대한 거의 확실한 수렴 결과(Theorem 3.1)를 증명한다. 구체적으로, 각 스파이크 (\alpha_k)에 대응하는 샘플 고유값 (\lambda_j(\widehat{\mathbf R})) 은 변환 함수 (\phi{y,n}(\alpha_k)) 에 의해 정규화되면 거의 확실히 동일한 한계값에 수렴한다.

두 번째 단계에서는 2차 변동성을 다루어, (\sqrt{n}) 스케일에서의 중심극한정리(Theorem 3.2, 3.3)를 제시한다. 스파이크가 다중(중복)인 경우에는 차원 (m_k) 인 가우시안 행렬 (G_k) 의 고유값 분포로 수렴하고, 단순 스파이크 경우에는 K‑차원 다변량 정규분포로 수렴한다. 여기서 공분산 구조는 스파이크 자체, 벌크 스펙트럼, 그리고 (G) 의 좌·우 특이벡터 (U,V) 에 의해 복합적으로 결정된다. 특히, 4차 모멘트 (\nu_4) 가 존재하면 비정규화된 항이 추가되어 기존 문헌(예: Baik‑Silverstein, Paul 등)에서 얻은 결과와 차이를 만든다.

핵심 기여는 고유공간에 대한 투사형 통계량 (T_{R,k}(P)=P^\top \widehat{\Pi}k P) (또는 (T{\Sigma,k}(P)))의 비정규 한계분포를 도출한 점이다. 이 통계량은 고유벡터의 부호 불확정성을 회피하면서도, 특정 방향 (P) 에 대한 스파이크 성분의 기여도를 정량화한다. 위의 CLT를 이용해, 저자들은 (i) 기준 주성분 방향에 대한 단일표본 검정, (ii) 두 모집단 간 스파이크 강도 차이 검정이라는 두 가지 실용적인 절차를 설계한다. 특히 두 표본 검정에서는 샘플 고유값의 비율 차이를 이용해 (H_0:\alpha_{1}^{(1)}=\alpha_{1}^{(2)}) 를 검정하며, 비정규화된 상관 행렬과 공분산 행렬에 대해 동일한 검정 통계량을 사용하되, 두 번째 차원에서의 분산이 서로 다름을 보여준다.

정규화(상관 기반 PCA)의 효과에 대한 이론적 해석도 중요한데, 1차 한계(스파이크 위치)는 동일하지만 2차 변동성(분산)은 벌크 스펙트럼과 스파이크 구조에 따라 크게 달라진다. 이는 실무에서 상관 기반 PCA가 공분산 기반 PCA와 다른 결론을 초래할 수 있음을 의미한다.

마지막으로, 실증 분석에서는 S&P 500 주식 수익률 데이터를 이용해, 공분산 기반 PCA와 상관 기반 PCA가 각각 다른 주요 로딩 방향과 스파이크 크기를 추정함을 확인한다. 두 방법이 제시하는 위험 요인 해석이 현저히 다르며, 이는 포트폴리오 구성 및 위험 관리에 실질적인 영향을 미친다.

전반적으로, 본 논문은 일반화된 스파이크 모델 하에서 공분산·상관 행렬 모두에 적용 가능한 일관된 추정·검정 이론을 제공하고, 정규화가 2차 통계량에 미치는 구체적 메커니즘을 밝힘으로써 고차원 통계학 및 금융공학 분야에 중요한 방법론적 기여를 한다.