딥 클러스터링의 진정한 목표, 이제는 비딥 방식으로 달성한다

초록

이 논문은 대표적인 딥 클러스터링 기법인 DEC·IDEC이 k‑means가 갖는 “임의 형태·크기·밀도” 클러스터 탐지 한계를 극복하지 못함을 실험과 이론으로 입증한다. 핵심 원인은 학습된 잠재공간이 클러스터를 중심점 형태로 변환하지 못한다는 점이며, 대신 데이터 분포 정보를 직접 활용하는 “Cluster‑as‑Distribution”(CaD) 접근이 동일한 목표를 비딥 방식으로 달성한다는 것을 보여준다.

상세 분석

본 논문은 클러스터링 정의의 근본적인 모호성을 지적하면서, 기존 정의(점‑대‑점 유사도 기반)와 새로운 정의(클러스터를 i.i.d. 확률분포로 보는 관점)를 명확히 구분한다. 기존 정의는 “유사도는 높고, 클러스터 간 유사도는 낮다”는 일반적 목표만 제시해, k‑means와 같은 구형·동일밀도 클러스터에만 적합함을 드러낸다. 반면, 논문이 제안하는 정의 2·3·4는 “임의 형태·크기·밀도”의 클러스터를 발견해야 함을 전제한다.

이러한 정의를 바탕으로 DEC·IDEC을 분석한다. DEC은 자동인코더를 통해 비선형 매핑 fθ: X→Z를 학습하고, 매핑 후 Student‑t 커널 기반 소프트 할당 Q와 목표 분포 P 사이 KL 발산을 최소화한다. IDEC은 재구성 손실 Lr을 추가해 구조 보존을 시도한다. 그러나 실험 결과(2‑Crescents, Diff‑Sizes, A‑C 데이터셋)에서 두 방법 모두 NMI가 0.4~0.6 수준에 머물며, k‑means와 거의 동일한 한계를 보인다. 특히, 잠재공간 시각화에서 클러스터가 구형 중심점으로 변환되지 않아, 정의 3·4가 요구하는 “임의 형태를 중심점 형태로 변환” 조건을 만족하지 못한다는 것이 핵심 원인이다.

논문은 이 현상의 근본 원인을 “점‑대‑점 유사도에 의존하는 클러스터링 패러다임”으로 규정한다. 즉, 학습된 표현이 클러스터 내부 구조를 보존하더라도, 최종 클러스터링 단계가 여전히 거리 기반 중심점 할당을 사용하면, 원본 데이터의 복잡한 분포를 반영하지 못한다.

이를 극복하기 위해 제안된 CaD(Cluster‑as‑Distribution) 접근은 데이터 자체를 확률분포로 모델링하고, 클러스터 간 유사도는 분포 커널 K(PX, PY)로 정의한다. KBC(Kernel Bounded Clustering)와 같은 최신 그래프 기반 방법이 이 아이디어를 구현한 사례이며, 실험에서는 NMI가 0.92~1.00에 달해 DEC·IDEC을 크게 앞선다. 중요한 점은 CaD가 딥 네트워크나 복잡한 잠재공간 학습 없이도, 데이터의 분포 정보를 직접 활용해 임의 형태·크기·밀도 클러스터를 정확히 식별한다는 것이다.

결론적으로, 논문은 (1) 기존 딥 클러스터링이 근본적인 정의적 한계에 갇혀 있음을, (2) 잠재공간 학습만으로는 정의 2‑4가 요구하는 목표를 달성하기 어렵다는 것을, (3) 분포 기반 접근이 딥러닝 없이도 동일 목표를 달성할 수 있음을 입증한다. 이는 향후 클러스터링 연구가 “표현 학습”보다 “분포 모델링”에 더 중점을 두어야 함을 시사한다.