희소 주성분 분석을 활용한 군집화와 변수 선택

초록

본 논문은 희소 주성분 분석(Sparse PCA)을 이용해 데이터의 변동성을 최대한 보존하면서도 비제로 계수를 제한함으로써 해석 가능한 군집화와 변수 선택을 수행하는 방법을 제시한다. d’Aspremont 외(2005)의 알고리즘 구현을 기반으로, 생물학적 데이터셋에 적용해 전통적인 군집화 기법 대비 해석 가능성과 성능을 비교한다.

상세 분석

희소 주성분 분석은 전통적인 PCA가 모든 변수에 대해 비제로 로드링을 제공하는 반면, 실제 응용에서는 변수 수가 많아 해석이 어려워지는 문제를 해결한다. 논문은 먼저 희소 PCA의 수학적 정의를 소개한다. 목표는 데이터 공분산 행렬 Σ에 대해 ‖Σv‖₂를 최대화하면서 ‖v‖₀≤k(비제로 계수 개수 제한)와 ‖v‖₂=1이라는 제약을 동시에 만족하는 벡터 v를 찾는 것이다. 이를 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태의 반정규화된 반대칭 행렬 형태로 변환하고, 반대칭 행렬의 최대 고유값을 구하는 SDP(relaxation) 문제로 전환한다. d’Aspremont et al. (2005)의 알고리즘은 이 SDP를 효율적으로 풀기 위해 1차원 이분 탐색과 근사적인 경사 하강법을 결합한다.

구현 측면에서 저자들은 MATLAB 기반의 CVX 툴박스를 활용해 SDP를 풀고, 이후 얻어진 희소 고유벡터를 정규화하여 실제 데이터에 적용한다. 특히, 비제로 계수의 개수를 사전에 지정함으로써 변수 선택이 자동으로 이루어진다. 논문은 두 가지 실험을 제시한다. 첫 번째는 유전자 발현 데이터셋으로, 기존의 K‑means와 전통 PCA 기반 군집화와 비교했을 때, 희소 PCA는 군집 경계가 명확히 구분되는 동시에 핵심 유전자를 10~15개 정도로 축소한다. 두 번째는 단백질 상호작용 네트워크에서 중요한 노드를 식별하는 작업으로, 희소 PCA가 높은 변동성을 설명하면서도 네트워크 중심성을 반영하는 변수 집합을 제공한다.

성능 평가는 실루엣 점수와 정밀도·재현율을 사용했으며, 희소 PCA 기반 군집은 전통 방법 대비 평균 5~7% 향상을 보였다. 또한, 변수 선택 측면에서는 과적합 위험을 감소시키고, 생물학적 해석 가능성을 크게 높였다. 한계점으로는 SDP 풀기의 계산 복잡도가 O(p³) 수준이라 변수 차원이 매우 클 경우 메모리와 시간 부담이 크다는 점을 지적한다. 이를 완화하기 위해 차원 축소 전 단계에서 랜덤 프로젝션이나 스크리닝을 적용할 것을 제안한다.

전체적으로 이 논문은 희소 PCA가 군집화와 변수 선택을 동시에 수행할 수 있는 강력한 도구임을 입증한다. 특히, 해석 가능성이 중요한 생물학·의학 분야에서 기존 방법보다 더 직관적인 결과를 제공한다는 점이 큰 장점이다. 향후 연구에서는 비선형 구조를 포착하기 위한 커널 희소 PCA나, 대규모 데이터에 대한 분산 구현 방안을 탐색할 필요가 있다.