고정계수 핵공분산 기하학을 이용한 행렬형 데이터 공분산 추정

초록

**
본 논문은 행렬형 데이터의 공분산을 핵‑코어 분해(KCD) 형태로 표현하고, 핵‑코어 중 핵심인 고정계수(rank‑r) 코어 공분산의 기하학적 구조를 연구한다. 코어 공간 𝒞⁺_{p₁,p₂,r}가 거의 모든 경우에 매끄러운 매니폴드임을 증명하고, 그 위에서 정의되는 리만 기울기·헤시안 연산자를 도출한다. 이를 기반으로 부분동질성(partial‑isotropy) 구조를 갖는 코어를 선형 결합으로 표현한 새로운 공분산 추정기 PICSE를 제안하며, 시뮬레이션을 통해 기존 방법보다 우수함을 보인다.

**

상세 분석

**
논문은 먼저 기존의 separable 공분산 모델 Σ = Σ₂ ⊗ Σ₁을 일반화한 핵‑코어 분해 Σ = K^{1/2} C K^{1/2}ᵀ를 소개한다. 여기서 K는 가장 “separable”한 부분, C는 핵심 코어이며 C = Iₚ이면 완전 separable이다. Hoff·McCormack·Zhang(2023)의 결과를 확장해, rank‑r인 Σ에 대해 p₁/p₂ + p₂/p₁ < r이면 C도 동일한 rank‑r를 가진다.

핵심 질문은 “부분동질성(partial‑isotropy) 구조를 C에 부여하면 고차원에서 안정적인 추정이 가능한가?”였으며, 저자는 C가
\