계층적 친화도 전파의 스케일링 분석과 클러스터 수 추정

초록

본 논문은 친화도 전파(Affinity Propagation, AP) 알고리즘의 계산 복잡도를 계층적 분할‑정복 전략을 통해 O(N²)에서 O(N^{(h+2)/(h+1)})로 낮추고, 차원 d 에 따른 정밀도 손실을 정량화한다. 또한 페널티 파라미터 s 의 임계값 s* 을 자기유사성 원리를 이용해 찾음으로써 데이터셋의 실제 클러스터 수를 자동으로 추정하는 방법을 제시한다.

상세 분석

논문은 먼저 친화도 전파(AP)를 베일리 전파(BP)의 min‑sum 형태로 재구성하고, 제약 조건을 완화한 SCAP(Soft‑Constraint AP) 모델을 소개한다. 핵심 아이디어는 데이터셋을 깊이 h 인 트리 구조로 재귀적으로 분할하고, 각 서브셋에 AP를 적용한 뒤 얻어진 대표점(예시자)을 가중치와 함께 상위 레벨에 전달하는 계층적 알고리즘(Hierarchical AP, Hi‑AP)이다. 이때 서브셋 크기를 M = N / b^{h} (여기서 b 는 분할 계수) 로 두면 전체 연산량은
C(h) ≈ K²·(N/K)^{(h+2)/(h+1)}
으로, h 가 커질수록 O(N) 에 수렴한다. 복잡도 감소와 동시에 발생하는 정보 손실을 정량화하기 위해 저자들은 예시자 위치의 분포를 중심으로 KL‑다이버전스와 상대 엔트로피를 분석한다. 특히 데이터가 ℝ^{d} 에 균등하게 퍼져 있을 때, 평균 거리 ε 가 작을수록 서브셋 내부의 예시자 선택 오차는
Δ ≈ N^{(2‑d)/