마스크드 디퓨전 기반 생성형 추천 시스템

초록

본 논문은 기존의 자동회귀(AR) 방식 대신 마스크드 디퓨전(Masked Diffusion) 모델을 적용한 생성형 추천 프레임워크인 MaskGR을 제안한다. SID(semantic ID) 시퀀스를 무작위 마스킹 노이즈로 변형하고, 마스크된 토큰을 조건부 독립적으로 복원하도록 학습함으로써 병렬 디코딩과 데이터 효율성을 동시에 달성한다. 실험 결과, 특히 데이터가 제한된 상황과 거시적(코스) 리콜 지표에서 AR 기반 모델을 크게 앞선다. 또한 추론 단계에서 여러 SID를 동시에 예측할 수 있어 실시간 서비스에 유리하다.

상세 분석

MaskGR은 생성형 추천(Generative Recommendation, GR) 분야에서 SID(semantic ID) 기반 시퀀스 모델링의 새로운 패러다임을 제시한다. 기존 AR 모델은 토큰을 순차적으로 예측함으로써(1) 추론 속도가 선형적으로 증가하고(2) 학습 시 다음 토큰 예측에만 초점을 맞춰 전역적인 토큰 관계를 충분히 포착하지 못한다는 한계가 있었다. MaskGR은 이러한 문제점을 해결하기 위해 디스크리트 마스크 노이즈를 이용한 마스크드 디퓨전 프레임워크를 도입한다. 구체적으로, 원본 SID 시퀀스 S₀에 대해 각 토큰을 확률 t(∈