블록 페널티를 이용한 대규모 정밀 행렬 추정

1. 서론에서는 고차원 데이터에서 표본 공분산 행렬 S가 특이하거나 조건수가 크게 변하는 문제점을 지적하고, 정밀 행렬 Ω=Σ^{-1}의 정확한 추정이 필요함을 설명한다. 기존 연구로는 L₁‑penalty 기반 그래픽 LASSO, SPICE, 밴딩(banding) 및 Nested LASSO 등이 소개되지만, 이들 방법은 개별 계수를 독립적으로 제약하거나, 강한 신호 앞에 약한 신호가 있을 때 이를 올바르게 제거하지 못한다는 한계를 가진다. 2. 수정된 Cholesky 분해(Modified Cholesky Decomposition, MCD)를 이용하면 Σ를 T^{-1} D T^{-T} 형태로 표현할 수 있다. 여기서 T는 단위 하삼각 행렬이며, 각 행 i에 대해 y_i = Σ_{j=1}^{i-1} φ_{i,j} y_j + ε_i 로 나타난다. φ_{i,j}는 T의 (i,j) 원소와 직접 연관된다. 3. 블록 페널티 프레임워크는 T의 각 오프대각선 밴드 ℓ_j = (φ_{j+1,1}, φ_{j+2,2}, …, φ_{p,j}) 를 하나의 블록으로 보고, 블록 전체에 L₂‑norm 기반의 그룹 페널티 p_{λ_j}(‖ℓ_j‖₂) 를 부과한다. 이때 λ_j는 j에 따라 가중치를 달리하는 스케일 파라미터이며, SCAD 함수를 사용해 편향을 최소화한다. 4. 손실 함수는 최소제곱 형태 L_n(φ)=∑_{i=1}^{n}∑_{j=2}^{p}(y_{ij}−y_i^{