혼합 차원 데이터 클러스터링 이론과 실천

초록

본 논문은 서로 다른 차원·밀도·크기의 클러스터가 섞여 존재하는 유클리드 공간을 가정하고, 거리 기반 대표 알고리즘인 이웃 그래프 연결성, Ng‑Jordan‑Weiss 스펙트럴 클러스터링, 단일 연결법을 이론적으로 분석한다. 로컬 스케일링 기법을 통해 최적 스케일을 자동 선택하고, 스펙트럴 갭의 하한을 제공함으로써 클러스터 수를 일관적으로 결정할 수 있는 조건을 제시한다. 또한, 각 방법이 클러스터 간 최소 분리 거리와 이상치에 대한 강건성 측면에서 거의 최적에 가깝다는 점을 증명한다.

상세 분석

이 논문은 “혼합 차원”이라는 새로운 데이터 생성 모델을 정의한다. 데이터는 ℝ^D에 존재하지만, 각 클러스터 C_k는 자체적인 내재 차원 d_k (d_k ≤ D)와 고유한 밀도 ρ_k, 그리고 크기 n_k 를 가진다. 저자들은 n → ∞ 일 때, 각 클러스터 내부의 점들이 d_k 차원 매니폴드에 균등하게 퍼져 있다고 가정하고, 클러스터 간 최소 거리 Δ_min 을 정의한다.

첫 번째 분석 대상은 ε‑neighborhood 그래프 G(ε) 를 이용한 연결성 기반 클러스터링이다. 저자들은 ε 가 클러스터 내부 연결성을 보장하면서도 서로 다른 클러스터 사이에 에지를 만들지 않을 수 있는 범위, 즉
c₁ (log n / n)^{1/d_k} ≤ ε ≤ c₂ Δ_min
을 제시한다. 여기서 c₁, c₂ 는 상수이며, 이 구간 내에서 G(ε) 의 연결 성분은 정확히 원래 클러스터와 일치한다는 정리를 증명한다.

두 번째로, 스펙트럴 클러스터링(Ng‑Jordan‑Weiss) 에 대한 분석을 수행한다. 저자들은 그래프 라플라시안 L(ε) 의 첫 K 개 고유벡터가 각 클러스터를 구분하는 저차원 임베딩을 제공함을 보인다. 특히, 로컬 스케일링 σ_i = dist(x_i, x_{i,k}) (k‑번째 최근접 이웃 거리) 를 적용하면, ε 를 자동으로 조정하는 효과가 있어 위의 연결성 구간을 만족시키는 스케일이 자동으로 선택된다. 이때 스펙트럴 갭 λ_{K+1} – λ_K 에 대한 하한을
λ_{K+1} – λ_K ≥ c₃ (Δ_min / σ_max)^2
와 같이 제시하여, 갭이 충분히 크면 K 를 정확히 추정할 수 있음을 보인다.

세 번째는 단일 연결법(single linkage)이다. 최소 스패닝 트리(MST)를 구성하고, 가장 큰 K‑1 개의 에지를 끊어 클러스터를 분리한다. 저자들은 MST 의 가장 큰 에지가 클러스터 간 최소 거리와 거의 일치한다는 사실을 이용해, Δ_min 이 충분히 크면 단일 연결법도 정확히 복구된다는 정리를 제시한다.

마지막으로, 이상치에 대한 강건성을 평가한다. 이상치는 클러스터 내부 밀도와 무관하게 일정 확률로 전체 공간에 균등하게 배치된다고 가정한다. 위 세 알고리즘 모두 ε 혹은 σ_i 를 적절히 선택하면, 이상치가 그래프에 미치는 영향은 O(ε^D) 수준으로 억제되어, 클러스터 구조를 변형시키지 않는다.

요약하면, 논문은 혼합 차원 데이터에 대해 거리 기반 클러스터링이 이론적으로 거의 최적의 분리 조건을 만족하고, 로컬 스케일링이 실용적인 파라미터 선택을 제공한다는 중요한 통찰을 제공한다.