희소 PCA의 부분지수 시간 알고리즘과 최적성 분석

본 논문은 스파스 주성분 분석(Sparse PCA) 문제의 계산 복잡도에 대한 정밀한 분석을 수행한다. 연구 배경으로는 스파스 PCA가 고차원 통계에서 신호가 희소한 경우 PCA의 성능을 크게 향상시킬 수 있음에도 불구하고, 희소도 ρ가 1/√n보다 크게 되면 현재 알려진 다항식 시간 알고리즘이 실패한다는 점이 있다. 기존에는 ρ ≲ 1/√n이면 대각 임계값(diagonal thresholding)이나 공분산 임계값(covariance thresholding) 같은 다항식 시간 알고리즘이 정확한 지지 회복을 보장하고, ρ ≪ 1이면 전수 탐색을 통해 지수 시간(≈exp(ρn))에 복구가 가능하다는 사실만 알려져 있었다. 그러나 1/√n ≪ ρ ≪ 1 구간, 즉 “가능하지만 어려운” 영역에 대한 정량적 이해는 부족했다. ### 주요 기여 1. **부분지수 시간 알고리즘 설계** 저자들은 실행시간을 exp(n^δ) (0 < δ < 1) 로 제한하면서도 정확한 지지 회복을 달성할 수 있는 알고리즘 패밀리를 제시한다. 핵심 아이디어는 크기 ℓ≈n^δ인 인덱스 집합을 전수 탐색하고, 각 집합에 대해 제한된 차원의 PCA(또는 고유값 분석)를 수행하는 것이다. ℓ=1이면 기존의 다항식 시간 대각 임계값 알고리즘이, ℓ=ρn이면 전수 탐색이 재현된다. ℓ을 ρ²n 정도로 선택하면 실행시간이 exp(ρ²n)으로 감소하면서도 성공 확률이 1−o(1)로 유지된다. 일반적인 성공 조건은 \