확률 공간에서 원형 기반 군집화의 강일관성

초록

본 논문은 프로토타입(원형) 기반 군집화에 대한 경험적 위험 최소화 원리를 확률 공간, 특히 Kullback‑Leibler 발산을 이용한 경우에 적용하여 강일관성을 증명한다. 또한 의미 없는 군집 생성을 억제하는 정규화 기법을 제안한다.

상세 분석

이 연구는 군집화 문제를 경험적 위험 최소화(Empirical Risk Minimization, ERM) 프레임워크 안에서 재정의한다. 데이터는 확률 분포의 형태로 표현되며, 군집 중심(프로토타입)은 동일한 확률 공간에 존재한다. 핵심 거리 척도로는 Kullback‑Leibler(KL) 발산을 사용함으로써, 기존 유클리드 거리 기반 방법이 다루기 어려운 비선형 구조를 자연스럽게 포착한다. 논문은 먼저 프로토타입 집합을 파라미터 공간 Θ에 매핑하고, 손실 함수 L(θ, x)=D_KL(x‖θ) 로 정의한다. 여기서 D_KL는 비대칭적이지만, 기대값을 최소화하는 θ*가 존재함을 보이기 위해 강한 연속성, 유계성, 그리고 컴팩트성 가정을 도입한다.

강일관성 증명은 크게 두 단계로 구성된다. 첫째, 표본 평균 위험 R_n(θ)=1/n∑_{i=1}^n L(θ, X_i) 가 전체 위험 R(θ)=E