클러스터링 유효성 지표 벤치마크 재검토

초록

본 논문은 26개의 내부 클러스터링 유효성 지표를 16 177개의 데이터셋과 8가지 알고리즘을 이용해 재평가한다. 기존 Vendramin et al. (2010) 방법의 한계를 보완하기 위해 세 가지 맞춤형 평가 시나리오와 각각 두 개의 성능 측정 지표를 도입하였다. 또한 비선형 관계와 편향을 탐지하기 위해 Pearson·Spearman 상관뿐 아니라 시각적 검토와 통계적 검정을 결합하였다. 실험 결과, 일부 고전 지표는 특정 상황에서 과도하게 군집 수에 의존하거나 비선형 왜곡을 보였으며, 최신 지표가 전반적으로 더 안정적인 성능을 나타냈다.

상세 분석

이 연구는 내부 유효성 지표의 평가 프레임워크를 근본적으로 재구성한다. 먼저 26개의 대표적 내부 지표를 ‘차이‑형’과 ‘상대‑형’으로 구분하고, 외부 지표(Jaccard, Adjusted Rand 등)와의 상관관계를 통해 지표의 전반적 순위 능력을 측정한다. 기존 연구가 단일 최적 파티션(예: 정답 군집 수와 일치)만을 대상으로 했던 반면, 본 논문은 세 가지 시나리오를 제시한다.

1. 다양한 군집 수 시나리오에서는 후보 파티션의 군집 수가 변동하는 상황에서 지표가 올바른 군집 수를 찾는 능력을 평가한다.
2. 고정 군집 수 시나리오는 실제 적용에서 군집 수가 사전에 지정된 경우를 모사해, 지표가 품질을 정확히 구분하는지를 측정한다.
3. 알고리즘·외부 지표 독립 시나리오는 특정 알고리즘이나 외부 지표에 의존하지 않는 순수한 내부 지표의 성능을 검증한다.
   각 시나리오마다 (①) 최적 파티션 선택 정확도와 (②) 전체 파티션에 대한 상관계수 두 가지 측정치를 사용한다.

특히, Pearson 상관이 선형 관계만을 포착한다는 한계를 지적하고, Spearman 상관과 비선형 회귀, 시각적 산점도 분석을 병행함으로써 ‘비선형·단조’ 관계를 정밀히 탐지한다. 예를 들어, VRC와 Jaccard 사이에 두 구간으로 나뉘는 비선형 패턴이 존재함에도 Pearson은 높은 값을 보였으며, 이는 실제 지표의 편향을 오판할 위험이 있음을 보여준다.

데이터 측면에서는 기존 연구가 5~1 080개 수준에 머물렀던 반면, 16 177개의 합성·실제 데이터셋을 구축하였다. 이 데이터셋은 차원, 군집 수, 밀도, 노이즈 비율 등 7가지 특성을 다양하게 조합해, 알고리즘·지표 간 상호작용을 포괄적으로 검증할 수 있게 설계되었다. 8가지 알고리즘(K‑Means, Spectral, HDBSCAN*, Trimmed K‑Means 등)과의 조합을 통해 특정 알고리즘에 대한 지표 편향도 정량화하였다.

실험 결과, 전통적인 Silhouette, Dunn, Calinski‑Harabasz 등은 특정 군집 수에서 높은 상관을 보였지만, 군집 수가 과소·과다될 때 급격히 성능이 저하되는 경향을 보였다. 반면, 최근 제안된 Density‑Based Index와 Adjusted Mutual Information 기반 지표는 전반적으로 안정적인 상관값과 높은 파티션 선택 정확도를 기록했다. 또한, Ratkowski‑Lance와 같은 지표는 군집 수와 단조적으로 증가함에도 불구하고 외부 지표와 높은 Pearson 상관을 보여, 단순 상관만으로는 지표의 실제 구분 능력을 판단하기 어렵다는 교훈을 제공한다.

결론적으로, 이 논문은 (1) 평가 시나리오의 다변화, (2) 비선형 관계 탐지를 위한 복합 메트릭, (3) 대규모·다양한 데이터셋 구축이라는 세 축을 통해 내부 유효성 지표 벤치마크의 신뢰성을 크게 향상시켰다. 향후 연구에서는 메타‑학습을 통한 지표 자동 선택이나, 도메인‑특화 데이터 특성에 기반한 맞춤형 지표 설계가 기대된다.