동적 임베딩을 통한 사용자와 아이템의 공동 진화 모델 JODIE

초록

JODIE는 사용자와 아이템을 동시에 업데이트하는 두 개의 상호 재귀 RNN을 이용해 시간에 따라 변하는 임베딩을 학습한다. 새롭게 제안된 프로젝션 함수는 사용자의 임베딩을 미래 시점으로 예측하고, 예측 함수는 다음에 상호작용할 아이템의 임베딩을 직접 출력한다. 또한 t‑Batch 알고리즘으로 시간 순서를 유지하면서 병렬 학습이 가능하도록 배치하여 학습 속도를 9배 이상 가속한다. 실험 결과, 네 개의 실제 데이터셋에서 기존 6개 모델 대비 상호작용 예측 정확도가 최대 22.4% 향상되고, 상태 변화 예측에서도 우수한 성능을 보였다.

상세 분석

JODIE는 동적 상호작용 네트워크에서 사용자와 아이템의 특성이 동시에 진화한다는 핵심 가정을 기반으로 설계되었다. 모델은 크게 세 가지 모듈로 구성된다. 첫 번째인 업데이트 모듈은 두 개의 상호 재귀 RNN(사용자 RNN, 아이템 RNN)을 사용해 현재 상호작용(사용자 u, 아이템 i, 피처 f, 타임스탬프 t) 이후 각각의 동적 임베딩을 갱신한다. 여기서 사용자 RNN은 아이템의 현재 동적 임베딩을 입력으로 받아 사용자의 상태를, 아이템 RNN은 사용자의 최신 임베딩을 입력으로 받아 아이템의 상태를 업데이트함으로써 양쪽의 상호 의존성을 명시적으로 모델링한다. 두 번째인 프로젝션 모듈은 사용자가 마지막으로 상호작용한 시점 이후 경과된 시간 Δ에 따라 사용자의 임베딩을 추정한다. 이는 칼만 필터와 유사한 구조로, 관측이 없는 구간에도 연속적인 상태 추정을 가능하게 하여 실시간 추천 시점에 유용하다. 세 번째인 예측 모듈은 미래에 사용자가 상호작용할 아이템의 임베딩을 직접 출력한다. 기존 방법이 모든 후보 아이템에 대해 점수를 계산하는 반면, JODIE는 한 번의 포워드 패스로 목표 아이템 임베딩을 생성하고, 가장 근접한 아이템을 검색함으로써 추론 비용을 |I|배 감소시킨다.

학습 과정에서 가장 큰 난관은 사용자‑아이템 간 복합 의존성이 존재함에도 불구하고 시계열 순서를 유지해야 한다는 점이다. 이를 해결하기 위해 제안된 t‑Batch 알고리즘은 각 배치 내에서 동일 사용자·아이템이 중복되지 않도록 스케줄링하고, 시간 순서가 보존되도록 배치를 순차적으로 배정한다. 결과적으로 배치 간 병렬 처리가 가능해져 JODIE와 기존 DeepCoevolve 모델 모두 7~9배 정도 학습 시간이 단축된다.

실험에서는 Reddit, Wikipedia, LastFM, MOOC 네 개 데이터셋을 활용해 두 가지 태스크(다음 상호작용 예측, 사용자 상태 변화 예측)를 수행하였다. JODIE는 협업 필터 기반 RNN(RRN), Time‑LSTM, LatentCross 등 6개 최신 베이스라인 대비 평균 10% 이상, 최고 22.4%까지 정확도 향상을 보였으며, 상태 변화(예: 사용자 차단, 학생 탈락) 예측에서도 4.5% 정도의 이득을 기록했다. 특히, 학생 탈락 예측 실험에서는 다섯 번의 상호작용 전부터 높은 예측 정확도를 달성해 조기 개입 가능성을 시사한다.

전반적으로 JODIE는 (1) 사용자·아이템 동시 동적 임베딩 학습, (2) 미래 임베딩을 직접 예측하는 프로젝션 함수, (3) 효율적인 t‑Batch 병렬 학습이라는 세 축을 통해 기존 동적 임베딩 모델의 한계를 극복하였다. 다만, 현재는 이진 상호작용(사용자‑아이템)만을 대상으로 하며, 다중 관계나 하이퍼그래프 형태의 복합 네트워크에 대한 확장은 향후 연구 과제로 남는다.