대규모·신규 데이터도 한 번에! 통합 표현 기반 서브스페이스 클러스터링

** 본 논문은 스펙트럴 클러스터링 프레임워크 하에서 서브스페이스 클러스터링을 수행하는 기존 방법들의 두 가지 근본적인 한계—시간 복잡도가 데이터 수 n에 대해 최소 O(n³) 수준으로 급증하는 대규모 처리 문제와, 학습 단계에 포함되지 않은 새로운 데이터(Out‑of‑sample)를 처리하려면 전체 그래프와 클러스터링을 다시 수행해야 하는 문제—를 해결하고자 한다. 이를 위해 저자들은 “샘플링, 클러스터링, 코딩, 분류”라는 네 단계로 구성된 통합 프레임워크를 제안한다. 첫 번째 단계인 샘플링에서는 전체 데이터 D∈ℝ^{m×n} 중 소수의 p(≪n)개를 무작위로 선택해 in‑sample 데이터 X∈ℝ^{m×p}를 만든다. 무작위 샘플링은 O(1) 시간 복잡도로 구현 가능하며, 실험적으로 복잡한 샘플링 기법(예: 컬럼 선택, 레버리지 점수)과 비교해도 충분한 대표성을 제공한다. 두 번째 단계인 클러스터링에서는 기존의 표현 기반 서브스페이스 클러스터링 알고리즘을 그대로 적용한다. 구체적으로는 (i) 희소 표현 기반 SSC, (ii) 저‑랭크 표현 기반 LRR, (iii) ℓ₂‑노름 기반 LSR를 각각 확장한 SSSC, SLRR, SLSR을 설계한다. 이들 알고리즘은 X에 대해 C∈ℝ^{p×p} (희소/저랭크/ℓ₂ 계수 행렬)를 구하고, A=|C|^T+|C| 로 유사도 그래프를 만든 뒤 라플라시안 L을 구성한다. 이후 L의 앞 k개의 고유벡터를 추출해 k‑means 로 클러스터를 얻는다. 이 과정은 p가 작기 때문에 복잡도가 O(p³) 수준에 머무른다. 세 번째 단계인 코딩에서는 out‑of‑sample 데이터 Y∈ℝ^{m×(n−p)}를 각각 학습된 서브스페이스에 투사한다. 각 서브스페이스는 해당 클러스터에 속한 in‑sample 데이터들의 선형 결합으로 표현되며, Y의 각 샘플 y는 (1) SSC‑형 ℓ₁ 최소화, (2) LRR‑형 핵심값 최소화, (3) LSR‑형 ℓ₂ 최소화 중 하나를 통해 계수 벡터 c_y를 구한다. 마지막 분류 단계에서는 y를 각 서브스페이스에 재구성했을 때의 잔차 ‖y−Xc_y‖₂ 를 계산하고, 최소 잔차를 보이는 서브스페이스에 할당한다. 이 과정은 각 y당 O(m p) 혹은 O(m p²) 연산만 필요하므로 전체 복잡도는 O((n−p) m p) 로, 기존 O(n³) 대비 크게 감소한다. 이론적 기여로는 각 서브스페이스를 고차원 공간의 점으로 모델링하고, 최근접 서브스페이스 분류기의 오류를 서브스페이스 간 최소 각도와 샘플링 비율을 이용해 상·하한을 도출했다. 이는 기존 SRC(희소 표현 기반 분류) 오류 분석이 없던 상황에서 새로운 분석 틀을 제공한다. 실험에서는 9개의 공개 데이터셋(Extended Yale B, ORL, COIL‑20, USPS, MNIST, Reuters 등)을 사용해 제안된 SSSC, SLRR, SLSR을 Nyström, 랜드마크 기반 스펙트럴 클러스터링, SEC 등 최근 확장 방법과 비교하였다. 평가 지표는 정확도(ACC), 정밀도(NMI), 실행 시간이다. 결과는 (1) 제안 방법이 동일하거나 더 높은 ACC/NMI를 달성하고, (2) 데이터 규모가 10⁴~10⁵ 수준으로 증가해도 실행 시간이 선형에 가깝게 증가함을 보여준다. 또한, 샘플링 비율(p/n)과 정규화 파라미터 λ에 대한 민감도 분석을 통해 p가 5%~10% 정도면 충분히 좋은 성능을 유지함을 확인했다. 결론적으로, 이 논문은 (i) 대규모 데이터에 대한 그래프 구축 비용을 샘플링 기반으로 획기적으로 낮추고, (ii) 새로운 데이터에 대해 전체 재학습 없이 빠르게 할당할 수 있는 메커니즘을 제공하며, (iii) 오류 상·하한을 통해 이론적 신뢰성을 확보한 점에서 서브스페이스 클러스터링 분야에 중요한 진전을 제시한다. 향후 연구는 더 정교한 샘플링 전략(예: 데이터 분포 기반)과 딥러닝과의 결합을 통해 더욱 복잡한 실세계 데이터에 적용하는 방향으로 진행될 수 있다. **