레벨셋 기반 스펙트럴 클러스터링의 연산자 노름 수렴

초록

본 논문은 Hartigan이 제시한 밀도 레벨셋 정의에 따라 클러스터를 정의하고, 비모수 밀도 추정으로 t‑레벨셋을 추출한 뒤 그래프 라플라시안의 고유벡터를 이용해 군집을 형성하는 알고리즘을 제안한다. 주요 이론적 결과는 추정된 그래프 라플라시안 연산자가 실제 연산자에 대해 거의 확실히(operator‑almost‑sure) 연산자 노름(operator norm)에서 수렴한다는 것이며, 이를 통해 데이터의 특성 공간 표현이 강일관성(strong consistency)을 갖는다는 점을 증명한다.

상세 분석

이 연구는 클러스터링을 확률밀도 함수의 레벨셋(level set) 구조와 연결시키는 새로운 프레임워크를 제시한다. 먼저, Hartigan(1975)의 정의에 따라 t‑레벨셋 { x | f(x) > t }을 클러스터의 후보 영역으로 설정하고, 비모수 커널 밀도 추정(k‑nearest‑neighbor 혹은 KDE)을 통해 데이터 샘플 중 추정 밀도가 t 보다 큰 부분집합을 선택한다. 이 단계는 기존의 거리 기반 스펙트럴 클러스터링이 밀도 차이를 무시하는 문제를 보완한다는 점에서 의미가 크다.

선택된 포인트 집합에 대해 완전 그래프를 구성하고, 가중치는 일반적인 Gaussian 커널 w_{ij}=exp(−‖x_i−x_j‖²/σ²) 혹은 k‑NN 기반 가중치로 정의한다. 라플라시안 L_n은 D_n−W_n 형태이며, 정규화 라플라시안 L_n^{sym}=D_n^{−1/2}L_nD_n^{−1/2}를 사용한다. 논문은 L_n을 연산자 L에 대한 유한표본 근사로 보고, L_n이 L에 대해 연산자 노름 ‖·‖_{op}에서 거의 확실히 수렴함을 보인다. 핵심 가정은 (i) 원본 밀도 f가 연속이고 컴팩트 지원을 가지며, (ii) 레벨 t가 f의 임계값이 아닌 일반값, (iii) 커널 bandwidth h_n이 n^{−1/(d+4)} 수준으로 감소하고, (iv) 그래프 연결 파라미터(σ_n 혹은 k_n)이 적절히 선택돼 그래프가 점점 더 미세하게 레벨셋을 근사한다는 것이다.

연산자 노름 수렴 증명은 먼저 밀도 추정 단계에서 레벨셋 추정 오류가 O_p(h_n²) 수준으로 제어됨을 보이고, 이어서 그래프 라플라시안이 연속적인 마르코프 연산자 K와의 차이가 ‖L_n−L‖_{op}=O_p( (log n / n h_n^d)^{1/2}+h_n² ) 로 제한된다는 점을 이용한다. 여기서 L는 연속적인 라플라시안 연산자로, 레벨셋 내부에서는 0이 되고 경계에서는 비제로 값으로 정의된다. 이와 같은 수렴 속도는 기존의 점별 수렴(pointwise) 결과보다 강력하며, 전체 스펙트럼(특히 첫 번째 k개의 고유벡터)에 대한 일관성을 보장한다.

고유벡터 기반 임베딩 φ_n(x_i) = (v_1(i),…,v_k(i))는 L_n의 첫 k개의 비제로 고유벡터를 사용해 정의된다. 연산자 노름 수렴을 통해 φ_n는 L의 고유함수 집합에 대해 L^2‑norm에서 수렴함을 보이며, 이는 클러스터 경계가 레벨셋의 연결 성분과 일치한다는 강일관성 결과로 이어진다. 즉, n→∞일 때 알고리즘이 반환하는 군집은 원본 밀도 f의 t‑레벨셋 연결 성분과 거의 확실히 일치한다.

실험 부분에서는 2차원 혼합 가우시안와 고차원 인공 데이터셋에 대해 기존 스펙트럴 클러스터링, DBSCAN, Mean‑Shift와 비교했으며, 특히 낮은 밀도 영역에서의 잡음에 강인함을 확인한다. 전체적으로 이 논문은 밀도 기반 레벨셋과 스펙트럴 방법을 결합함으로써, 이론적 수렴 보장을 갖는 실용적인 클러스터링 프레임워크를 제공한다는 점에서 큰 의의를 가진다.