커널 기반 겹침 군집화 방법

초록

본 논문은 겹침 군집화 문제를 해결하기 위해 Mercer 커널을 이용해 데이터를 고차원 특징 공간으로 사상한 뒤, 기존 Overlapping k‑means(OKM)를 확장한 OKM‑K 알고리즘을 제안한다. 커널 매핑을 통해 비선형 경계가 선형으로 변환되어 군집 간 구분이 용이해지며, 실험 결과 OKM‑K가 기존 OKM보다 높은 정확도와 재현율을 달성함을 입증한다.

상세 분석

겹침 군집화는 하나의 객체가 여러 군집에 동시에 속할 수 있는 상황을 모델링하는데, 전통적인 k‑means와 같은 비겹침 알고리즘은 이러한 복합성을 반영하지 못한다. OKM(Overlapping k‑means)은 각 객체에 대한 군집 할당을 다중 집합 형태로 표현함으로써 겹침을 허용하지만, 입력 공간이 선형적으로 구분 가능하지 않을 경우 군집 경계가 흐려지는 한계가 있다. 이를 극복하기 위해 저자는 Mercer 커널 함수를 도입하여 원본 데이터를 고차원 특징 공간으로 사상한다. 커널 매핑은 φ(x)·φ(y)=K(x,y) 형태로 구현되며, 여기서 K는 양의 정부호 함수를 만족한다. 고차원 공간에서는 비선형 구조가 선형적으로 분리될 가능성이 높아지므로, OKM‑K는 기존 OKM의 목적 함수를 커널 내적으로 대체하고, 군집 중심 역시 특징 공간에서 정의한다. 알고리즘 흐름은 (1) 초기 군집 중심을 무작위로 선택, (2) 각 데이터 포인트에 대해 커널 기반 거리(또는 유사도)를 계산하여 다중 할당 집합을 업데이트, (3) 할당된 포인트들의 가중 평균을 이용해 새로운 중심을 재계산, (4) 수렴 조건이 만족될 때까지 반복한다. 중요한 점은 중심 업데이트 단계에서 직접적인 고차원 벡터를 다루지 않고, 커널 행렬만을 이용해 연산을 수행함으로써 계산 복잡도를 제어한다는 것이다. 실험에서는 인공 겹침 데이터셋과 실제 텍스트/이미지 데이터에 대해 정밀도, 재현율, F1 점수를 비교하였다. OKM‑K는 특히 군집 간 경계가 복잡하게 얽혀 있는 경우에 OKM 대비 평균 8~12% 정도의 성능 향상을 보였으며, 파라미터(커널 종류, σ 등) 민감도 분석을 통해 RBF 커널이 가장 안정적인 결과를 제공함을 확인했다. 또한, 알고리즘 수렴 속도는 OKM와 비슷하거나 약간 빠른 편으로, 고차원 매핑에 따른 추가 비용이 최소화되었음을 보여준다. 이와 같이 커널 기반 접근은 겹침 군집화의 표현력을 크게 확대하면서도 기존 방법과 비교해 실용적인 효율성을 유지한다는 점에서 의미가 크다.