아이템 필드 그래프 모델 기반 협업 필터링

초록

본 논문은 아이템 간 유사성을 그래프 형태로 모델링하고, 이를 무향 그래프 모델(아이템 필드)로 확장한다. 베타 근사를 이용한 최대 엔트로피 학습을 통해 매우 적은 엣지로도 정확한 예측이 가능하며, Movielens 데이터셋에서 기존 최대우도 방식보다 100배 빠른 학습 속도를 보인다.

상세 요약

전통적인 아이템 기반 협업 필터링은 각 아이템을 노드로, 유사도가 높은 아이템들 사이에 가중 엣지를 두어 그래프를 구성한다. 예측은 사용자가 평가한 이웃 아이템들의 평점을 가중합하는 방식으로 이루어지며, 이때 사용되는 가중치는 보통 코사인 유사도나 피어슨 상관계수와 같은 통계적 유사도 측정값이다. 이러한 방법은 로컬 정보에만 의존하기 때문에, 그래프가 희소해지면 예측 정확도가 급격히 떨어지는 단점이 있다.

논문은 이러한 한계를 극복하기 위해 “아이템 필드(item fields)”라는 새로운 프레임워크를 제안한다. 아이템 필드는 아이템 그래프 위에 무향 마르코프 랜덤 필드(MRF)를 정의함으로써, 각 노드(아이템)의 상태(평점)를 주변 노드뿐 아니라 그래프 전체의 구조적 제약에 의해 동시에 결정하도록 만든다. 구체적으로, 각 엣지는 쌍변수 잠재분포를 정의하고, 전체 그래프는 이들 쌍변수 분포의 곱으로 표현된다. 이때 목표는 관측된 평점 데이터에 대해 그래프의 파라미터(엣지 가중치)를 최대 엔트로피 원칙에 따라 추정하는 것이다.

최대 엔트로피 추정은 일반적으로 복잡한 라그랑주 승수 방정식을 풀어야 하지만, 저자들은 베타 근사(Bethe approximation)를 적용해 근사적인 자유 에너지 함수를 도출한다. 베타 근사는 트리 구조에서 정확한 변분 원리를 제공하므로, 일반 그래프에서도 근사적으로 좋은 해를 얻을 수 있다. 이 근사를 이용하면 파라미터에 대한 그래디언트가 충분통계량(엣지별 공동평점 평균)과 현재 모델의 마진(엣지별 기대값) 차이 형태로 단순화된다. 따라서 학습은 “충분통계량 – 기대값” 차이를 이용한 기본적인 경사 상승법으로 구현된다.

또한 논문은 사전 계산된 충분통계량을 활용한다. Movielens와 같은 대규모 데이터셋에서는 사용자‑아이템 매트릭스가 희소하지만, 아이템 쌍별 공동평점 평균은 한 번 계산해 두면 여러 번 재사용 가능하다. 이 전략 덕분에 학습 단계에서 매번 원본 데이터를 스캔할 필요가 없으며, 파라미터 업데이트 비용이 엣지 수에 비례하는 선형 시간 복잡도로 감소한다. 실험 결과, 동일한 그래프 구조(엣지 수가 기존 방법보다 10배 적음)에서도 RMSE가 크게 개선되었고, 학습 시간은 최대우도 기반 방법에 비해 100배 이상 단축되었다.

핵심 인사이트는 (1) 무향 그래프 모델을 통해 로컬 이웃뿐 아니라 비국소적 상호작용을 자연스럽게 포착한다는 점, (2) 베타 근사와 충분통계량 사전 계산을 결합한 최대 엔트로피 학습이 계산 효율성을 크게 향상시킨다는 점, (3) 적은 엣지로도 높은 예측 정확도를 달성함으로써 메모리와 전력 소모를 최소화할 수 있다는 점이다. 이러한 특성은 실시간 추천 시스템이나 모바일 환경에서 특히 유용하게 적용될 수 있다.