정점 특성을 포함한 무작위 그래프 모델 기반 클러스터링

초록

본 논문은 그래프의 구조적 연결 정보와 정점에 부착된 특성 벡터를 동시에 활용하는 새로운 클러스터링 알고리즘을 제안한다. 잠재 변수 모델을 기반으로 정점마다 두 가지 잠재 클래스를 부여하고, 연결 확률은 정점 간 잠재 클래스에, 특성 분포는 각 클래스별 가우시안 분포에 의해 결정된다. 변분 EM 절차를 통해 파라미터와 잠재 클래스 할당을 추정하며, 시뮬레이션 및 실제 하이퍼텍스트 데이터 실험에서 기존 방법보다 우수한 성능을 보였다.

상세 분석

이 연구는 그래프 클러스터링 분야에서 흔히 발생하는 ‘구조만 이용하고 정점 특성을 무시한다’는 한계를 극복하고자 한다. 저자들은 정점 i를 두 개의 잠재 변수 zi와 wi로 모델링한다. zi는 그래프 상의 연결 패턴을 설명하는 블록 모델의 클래스이며, wi는 정점이 가지고 있는 다차원 특성 벡터를 설명하는 가우시안 혼합 모델의 클래스이다. 두 클래스는 동일한 클러스터링 라벨을 공유하도록 설계되어, 연결 확률 pij=θzij·zj와 특성 분포 pxi|wi=𝒩(xi|μwi,Σwi) 형태로 결합된다. 여기서 θ는 블록 간 연결 강도를 나타내는 매개변수 행렬이며, μ와 Σ는 각 클래스별 평균과 공분산을 의미한다.

모델 추정은 변분 베이즈 EM 알고리즘을 사용한다. E‑단계에서는 현재 파라미터 추정값을 바탕으로 각 정점이 특정 클래스에 속할 사후 확률 q(zi,wi)를 계산한다. 이때 그래프의 인접 행렬 A와 정점 특성 행렬 X가 동시에 사용되며, 두 정보가 상호 보완적으로 작용해 q를 강화한다. M‑단계에서는 q를 이용해 θ, μ, Σ를 최대우도 추정한다. 특히 θ는 블록 모델의 기대 연결 횟수를 정규화한 형태로 업데이트되며, μ와 Σ는 가우시안 혼합 모델의 표준적인 업데이트 식을 따른다.

실험에서는 두 가지 시나리오를 설정했다. 첫 번째는 인공 데이터로, 연결 패턴과 특성 분포가 서로 다른 정도의 상관관계를 가질 때 알고리즘의 복원력을 평가한다. 결과는 연결만 이용하거나 특성만 이용하는 기존 방법에 비해 평균 정확도가 10~15% 상승함을 보여준다. 두 번째는 실제 하이퍼텍스트 문서 데이터(예: 뉴스 기사 네트워크)에서 각 문서를 정점으로, 인용·링크 관계를 엣지로, TF‑IDF 벡터를 특성으로 사용하였다. 제안 방법은 주제별 클러스터링에서 보다 명확한 구분을 제공했으며, 정밀도·재현율 모두 기존 스펙트럴 클러스터링이나 단순 가우시안 혼합 모델보다 우수했다.

또한 저자들은 모델 복잡도와 계산 비용을 논의한다. 변분 EM은 각 반복마다 O(NK^2) (N: 정점 수, K: 클러스터 수)의 연산을 요구하지만, 희소 그래프와 배치 업데이트를 활용해 실시간 대규모 데이터에도 적용 가능하도록 최적화하였다. 한계점으로는 클래스 수 K를 사전에 지정해야 한다는 점과, 가우시안 가정이 비선형 특성에 대해 약할 수 있다는 점을 제시하고, 향후 비정형 특성 모델링이나 베이지안 비정형 클러스터링으로 확장할 가능성을 언급한다.

전반적으로 이 논문은 그래프 구조와 정점 특성을 통합하는 통계적 프레임워크를 제시함으로써, 복합 데이터에서 보다 의미 있는 군집을 도출할 수 있음을 실험적으로 입증하였다.