그래프 클러스터링 밴드잇으로 추천 성능 향상

본 논문은 온라인 추천 시스템에서 다중 사용자에게 동시에 서비스를 제공하면서, 각 사용자의 행동 데이터를 기반으로 실시간 클러스터링을 수행하는 새로운 밴드잇 알고리즘인 GCLUB(Graph Clustering Bandits for Recommendation)를 제안한다. 1. **연구 배경 및 문제 정의** - 현대의 뉴스·광고·동영상 추천 등에서는 아이템 집합이 빠르게 변하고, 전통적인 협업 필터링이 적용되기 어렵다. - 컨텍스트 밴드잇은 아이템의 특징 벡터와 사용자 피드백을 이용해 탐색‑활용을 수행하지만, 사용자 간 협업 효과를 반영하지 못한다. - 기존 연구에서는 사용자를 사전 정의된 그래프 혹은 행동 기반 클러스터로 묶어 협업 효과를 도입했으며, 대표적인 방법으로 CLUB(Cluster of Bandits)이 있다. 2. **CLUB 알고리즘의 한계** - CLUB은 사용자 간 유사성을 그래프의 엣지로 표현하고, 현재 사용자 주변에서만 엣지를 삭제해 클러스터를 점진적으로 분리한다. - 이 로컬 탐색은 활동이 많은 소수 사용자에게는 효과적이지만, 활동이 적은 다수 사용자 혹은 신규 사용자는 클러스터 재구성에 거의 영향을 주지 못한다. - 결과적으로 클러스터가 실제 사용자 선호의 다양성을 충분히 반영하지 못해 성능이 제한된다. 3. **GCLUB 알고리즘 설계** - **그래프 초기화**: 전체 사용자 집합을 O(n log n) 개의 무작위 엣지로 연결한 희소 그래프 G₀를 만든다. - **사용자별 선형 밴드잇**: 각 사용자 i는 선형 모델 w_i,t 를 유지하며, 현재 라운드 t에 i_t 가 선택되면 해당 클러스터 b_jt 의 파라미터를 평균해 \bar w_{b_jt,t‑1} 를 만든다. - **UCB 기반 아이템 선택**: \bar w와 아이템 특징 x를 이용해 상한 신뢰구간을 계산하고, 최대값을 갖는 아이템을 추천한다. - **피드백 업데이트**: 선택된 아이템에 대한 보상 a_t 를 관측하고, w_i_t 를 표준 선형 밴드잇 업데이트(예: ridge regression)한다. - **클러스터 탐색 메커니즘**: 매 라운드 두 가지 옵션 중 하나를 수행한다. 1. **로컬 탐색 (확률 1‑r, r>½)** – 현재 사용자가 속한 클러스터에서 w_i와 인접 노드 w_j 간 거리 기준으로 엣지를 삭제한다(기존 CLUB과 동일). 2. **글로벌 탐색 (확률 r, r≤½)** – 초기 학습 단계(t ≤ T/10)에서 무작위로 하나의 클러스터를 선택하고, 빠른 그래프 클러스터링(Graclus) 알고리즘을 적용해 두 개의 서브클러스터로 분할한다. - **탐색‑활용 트레이드오프**: 로컬 탐색은 현재 사용자에 대한 즉각적인 모델 개선을, 글로벌 탐색은 전체 클러스터 구조의 다양성을 확보한다. 4. **복잡도 및 구현** - 그래프 유지 비용은 O(n log n)이며, 엣지 삭제는 상수 시간, 무작위 클러스터 분할은 선택된 클러스터 크기에 비례하는 선형 시간이다. - Graclus는 다중 레벨 그래프 컷 방식을 사용해 대규모 그래프에서도 수 초 이내에 클러스터링을 수행한다. 5. **실험 설정** - **데이터셋**: LastFM(음악 청취 로그), Delicious(소셜 북마크), Yahoo News(뉴스 클릭 로그), MovieLens 100k(영화 평점). 각 데이터는 사용자 활동 정도가 크게 다르며, 특히 MovieLens와 LastFM은 활동이 적은 사용자가 다수를 차지한다. - **전처리**: 아이템 특징을 TF‑IDF 후 PCA로 차원 축소(d≈19), 피드백은 0/1 이진값으로 변환. 각 라운드마다 25개의 후보 아이템을 무작위로 구성하고, 실제 클릭된 아이템을 하나 포함시켰다. - **비교 알고리즘**: LinUCB‑ONE(전체 사용자가 하나의 선형 모델 공유), LinUCB‑IND(각 사용자마다 독립적인 LinUCB), CLUB, 그리고 무작위 선택(RAN). Yahoo 데이터에서는 UCB‑ONE/IND을 사용했다. - **평가 지표**: 누적 레그레트 비율(기준: RAN) 혹은 CTR 비율(기준: RAN). 실험은 5회 반복 평균을 사용했으며, 파라미터는 10% 훈련 데이터로 그리드 서치를 수행했다. 6. **실험 결과** - **전체 성능**: GCLUB은 모든 데이터셋에서 가장 낮은 누적 레그레트 비율(또는 가장 높은 CTR 비율)을 기록했다. 특히 활동이 적은 사용자 비중이 큰 MovieLens와 LastFM에서 큰 폭의 개선을 보였다. - **데이터 특성별 분석**: Yahoo와 같이 “few‑hits” 상황에서는 LinUCB‑ONE이 이미 높은 성능을 보였지만, GCLUB은 여전히 동등하거나 약간 앞섰다. 반면 Delicious와 같은 “many‑niches” 환경에서는 LinUCB‑ONE이 크게 뒤처지고, GCLUB이 클러스터 기반 협업 효과와 글로벌 탐색을 결합해 우수한 결과를 얻었다. - **CLUB 대비**: CLUB은 전반적으로 괜찮은 성능을 보였으나, 초기 단계에서 클러스터 구조가 고정되는 경향이 있어 장기적으로는 GCLUB에 비해 뒤처졌다. 7. **논의 및 향후 연구** - **핵심 인사이트**: (i) 사용자 행동 기반 클러스터링은 밴드잇 기반 추천에 실질적인 이점을 제공한다. (ii) 클러스터 수준의 탐색을 도입하면 활동 불균형 문제를 완화하고, 잠재적인 니치 사용자 그룹을 빠르게 발견할 수 있다. - **제한점**: 현재 GCLUB은 초기 단계에서만 글로벌 탐색을 수행하며, 탐색 비율 r과 초기 단계 길이(T/10)의 하이퍼파라미터에 민감할 수 있다. 또한 이론적 레그레트 상한에 대한 정밀 분석이 부족하다. - **미래 방향**: (1) 탐색 비율을 적응적으로 조정하는 메커니즘, (2) 사전 정의된 소셜 그래프와 행동 기반 그래프를 결합한 하이브리드 클러스터링, (3) 비선형(예: 딥러닝) 사용자 모델과의 통합, (4) 레그레트에 대한 PAC‑style 경계 증명 등을 제안한다. 결론적으로, GCLUB은 기존 CLUB의 로컬 탐색 한계를 극복하고, 대규모 실시간 추천 시스템에서 사용자 다양성을 효과적으로 포착함으로써 전반적인 추천 정확도와 확장성을 동시에 달성한 혁신적인 접근법이다.