클러스터 포레스트

초록

클러스터 포레스트는 랜덤 포레스트에서 영감을 얻은 새로운 클러스터링 앙상블 기법이다. 고차원 데이터 공간을 무작위로 탐색해 품질이 높은 지역 클러스터링을 생성하고, 이를 스펙트럴 클러스터링으로 통합한다. 클러스터 품질 지표 κ를 이용해 지역 클러스터링을 점진적으로 개선함으로써 노이즈에 강인한 구조를 형성한다. 실험과 이론적 분석을 통해 기존 방법 대비 우수한 성능과 스펙트럴 클러스터링의 오분류율에 대한 새로운 통찰을 제공한다.

상세 분석

본 논문은 기존의 랜덤 포레스트(RF)가 분류 문제에서 보여준 성공 메커니즘을 클러스터링 영역에 적용하려는 시도로, ‘클러스터 포레스트(Cluster Forests, CF)’라는 새로운 앙상블 프레임워크를 제안한다. CF는 데이터 전체를 한 번에 파악하려 하기보다, 고차원 데이터 구름을 무작위로 여러 부분집합으로 샘플링하고, 각 부분집합에 대해 ‘지역 클러스터링(local clustering)’을 수행한다. 이때 지역 클러스터링의 품질을 평가하는 지표 κ(kappa)를 도입하는데, κ는 클러스터 내 결합도와 클러스터 간 분리도를 동시에 고려한 정규화된 측도이며, 특히 잡음이 섞인 데이터에 대해 높은 내성을 보인다.

CF는 각 트리(또는 로컬 클러스터링)를 성장시킬 때, 현재 클러스터링에 새로운 피처와 샘플을 추가해 κ가 향상되는지를 검증한다. 향상되지 않으면 해당 분할을 포기하고 다른 후보를 탐색한다는 점에서 RF의 ‘노드 분할 기준’과 유사하지만, 목표가 분류 정확도가 아니라 클러스터 품질이라는 점이 차별점이다. 이렇게 다수의 고품질 지역 클러스터링을 확보한 뒤, 논문은 이들을 인접 행렬 형태로 변환하고, 스펙트럴 클러스터링을 적용해 전역 클러스터링을 도출한다.

이론적 분석에서는 κ가 노이즈에 대해 ‘noise‑resistant’함을 증명한다. 구체적으로, 잡음이 포함된 데이터에 대해 κ는 잡음이 없는 경우와 비교해 크게 감소하지 않으며, 따라서 트리 성장 과정에서 잡음에 의해 잘못된 분할이 선택될 확률이 낮아진다. 또한, 스펙트럴 클러스터링의 오분류율을 perturbation model(작은 행렬 변동) 하에서 폐쇄형식으로 유도한다. 이 식은 그래프 라플라시안의 고유값 간격, 클러스터 간 연결 강도, 그리고 노이즈 수준 사이의 정량적 관계를 명시함으로써, 왜 특정 상황에서 스펙트럴 클러스터링이 실패하거나 성공하는지를 설명한다.

실험 부분에서는 여러 실제 데이터셋(이미지, 텍스트, 바이오인포메틱스 등)을 대상으로 두 가지 성능 지표(정밀도‑재현율 기반 F‑score와 정규화된 상호 정보량)를 사용해 비교한다. 결과는 CF가 기존의 대표적인 클러스터링 앙상블(예: Consensus Clustering, Co‑association Matrix 기반 방법)보다 일관되게 높은 점수를 기록함을 보여준다. 특히 차원 수가 매우 높은 경우와 잡음 비율이 큰 경우에 그 우위가 두드러진다.

요약하면, 클러스터 포레스트는 무작위 탐색, κ 기반 품질 관리, 스펙트럴 통합이라는 세 축을 결합해, 잡음에 강하고 고차원 데이터에 적합한 클러스터링 앙상블을 구현한다. 이 접근법은 기존 방법들의 한계를 보완하면서도, 스펙트럴 클러스터링의 이론적 특성을 명확히 규명한다는 점에서 학술적·실용적 가치를 동시에 제공한다.