통합 확률 모델을 통한 협업·콘텐츠 기반 추천 시스템

** 본 논문은 추천 시스템 분야에서 협업 필터링(Collaborative Filtering, CF)과 콘텐츠 기반 필터링(Content‑Based Filtering, CBF)의 장점을 하나의 통합 확률 모델로 결합하는 새로운 방법론을 제시한다. 기존 연구들은 두 접근법을 별도로 개발하거나, 단순히 가중합 형태의 하이브리드 방식을 사용해 왔으며, 이 경우 두 데이터 소스 간의 상호작용을 충분히 반영하지 못한다는 한계가 있었다. 이를 극복하기 위해 저자는 Hofmann이 1999년에 제안한 Aspect Model을 확장하여 사용자(u), 아이템(i), 그리고 아이템에 부수되는 내용(c)이라는 세 차원의 공동 발생 데이터를 모델링한다. ### 1. 모델 설계 Aspect Model은 잠재적인 ‘주제’(latent aspect) z 를 도입해 관측 변수와 잠재 변수 사이의 확률적 관계를 정의한다. 저자는 이를 3차원으로 확장함으로써 P(u,i,c) = Σ_z P(z|u)·P(i|z)·P(c|z) 라는 형태의 확률을 도출한다. 여기서 P(z|u)는 사용자가 특정 주제에 관심을 가질 확률, P(i|z)는 주제가 아이템 i와 연결될 확률, P(c|z)는 같은 주제가 아이템 내용 c와 연결될 확률을 의미한다. 이 구조는 협업 정보(P(u,i))와 콘텐츠 정보(P(i,c))를 동시에 고려하게 하며, 두 정보가 서로 보완적인 역할을 수행하도록 만든다. ### 2. 파라미터 학습 모델 파라미터는 기대‑최대화(Expectation‑Maximization, EM) 알고리즘을 통해 추정된다. E‑step에서는 현재 파라미터를 사용해 각 관측 삼중 (u,i,c)에 대한 주제 책임 γ_z(u,i,c) 를 계산한다. M‑step에서는 책임값을 기반으로 P(z|u), P(i|z), P(c|z) 를 업데이트한다. 이때 파라미터가 희소 데이터에 과도하게 적합되는 것을 방지하기 위해 라플라스 평활과 베이지안 사전(Dirichlet)을 도입해 규제를 가한다. ### 3. 희소 데이터와 과적합 문제 추천 시스템에서 가장 흔히 마주치는 문제는 사용자‑아이템 행렬이 극도로 희소하다는 점이다. EM 알고리즘은 관측 데이터가 충분히 많을 때는 강력하지만, 데이터가 부족하면 파라미터가 불안정해져 테스트 성능이 급격히 저하되는 과적합 현상이 발생한다. 저자는 이를 해결하기 위해 두 가지 전략을 제시한다. 첫째, 콘텐츠 정보가 풍부한 경우 P(c|z) 를 더 크게 가중시켜 협업 정보의 부족을 보완한다. 둘째, 모델을 여러 개의 K(주제 수)와 초기화에 대해 독립적으로 학습시킨 뒤 평균화(앙상블)함으로써 개별 모델의 변동성을 감소시킨다. ### 4. 혼합 모델 및 가중치 자동 추정 최종 추천 점수는 협업 기반 점수와 콘텐츠 기반 점수의 가중합으로 정의된다. 가중치는 학습 단계에서 데이터에 의해 자동으로 추정되며, 아이템마다 다른 가중치가 적용된다. 즉, 데이터가 충분히 있는 아이템은 협업 가중치가 높아지고, 데이터가 부족한 아이템은 콘텐츠 가중치가 상승한다. 이는 전통적인 하이브리드 시스템에서 사전에 설정해야 하는 가중치를 동적으로 학습하도록 만든다. ### 5. 실험 설정 실험은 Computer Science 분야 논문 메타데이터를 제공하는 ResearchIndex 데이터셋을 이용했다. 데이터는 사용자(논문 열람자), 아이템(논문), 그리고 아이템 내용(초록, 키워드, 저자 등)으로 구성되었다. 사용자‑아이템 행렬은 평균 0.3% 정도의 밀도를 보이며, 매우 희소한 상황을 재현한다. 비교 대상은 다음과 같다. - **k‑NN 기반 협업 필터링**: 사용자 간 유사도 기반 최근접 이웃 방식. - **Pure CF**: 행렬 분해를 이용한 협업 필터링, 내용 정보를 전혀 사용하지 않음. - **Pure CBF**: 텍스트 유사도(코사인, TF‑IDF)만을 이용한 콘텐츠 기반 추천. 평가지표는 정밀도@k, 재현율@k, MAP, NDCG 등을 사용했으며, k는 5, 10, 20으로 설정하였다. ### 6. 실험 결과 혼합 확률 모델은 모든 지표에서 k‑NN 대비 평균 12%~18%의 향상을 보였다. 특히 콜드 스타트 사용자(관측이 거의 없는)와 콜드 스타트 아이템(내용만 존재) 상황에서 순수 CF는 성능이 급격히 떨어지는 반면, 제안 모델은 콘텐츠 가중치가 자동으로 상승해 성능 저하를 최소화했다. 또한, Pure CBF와 비교했을 때 협업 정보를 활용함으로써 사용자 개인화 수준이 크게 향상되었으며, 과적합 방지를 위한 베이지안 평활이 적용되지 않은 Pure CF는 테스트 손실이 크게 증가하는 현상이 관찰되었다. ### 7. 논의 및 한계 본 연구는 협업과 콘텐츠 정보를 동일한 확률 구조 안에 자연스럽게 결합함으로써 두 데이터 소스 간의 트레이드오프를 사전에 정의된 파라미터가 아니라 데이터 자체가 결정하도록 만든 점이 가장 큰 공헌이다. 이는 실제 서비스 환경에서 새로운 아이템이 지속적으로 추가될 때 별도의 하이퍼파라미터 튜닝 없이도 자동으로 적절한 가중치를 학습할 수 있게 한다. 그러나 EM 기반 학습은 반복 횟수에 따라 O(N·K) 의 계산 복잡도가 발생해 대규모 실시간 시스템에 바로 적용하기는 어려울 수 있다. 또한, 현재 모델은 텍스트 기반 콘텐츠에 초점을 맞추고 있어 이미지, 오디오 등 다중 모달 데이터를 다루기 위해서는 추가적인 잠재 변수 설계와 확장이 필요하다. ### 8. 결론 저자는 협업과 콘텐츠 기반 추천을 통합하는 확률 모델을 제안하고, EM 학습과 베이지안 평활을 통해 희소 데이터 환경에서도 과적합을 방지하는 방법을 제시하였다. 연구 결과는 기존 k‑NN 기반 하이브리드 방법보다 일관된 성능 향상을 보여주며, 특히 콜드 스타트 문제를 효과적으로 완화한다는 점에서 실용적 가치를 가진다. 향후 연구에서는 모델의 스케일링을 위한 변분 추정(VI)이나 샘플링 기반 학습, 그리고 다중 모달 콘텐츠를 포함한 확장 모델을 탐구할 계획이다. **