대규모 군중 선호 학습을 위한 베이지안 스케일러블 모델

초록

본 논문은 페어와이즈 라벨을 이용해 개인별 선호와 군중 전체의 합의를 동시에 추정하는 베이지안 프레퍼런스 학습 방법을 제안한다. 행렬 분해와 가우시안 프로세스를 결합하고, 스토캐스틱 변분 추론(SVI)으로 메모리와 연산량을 데이터 규모와 무관하게 고정한다. 텍스트 임베딩·메타데이터와 같은 입력 특성을 활용해 기존 사용자·아이템에 없는 새로운 사례도 예측 가능하며, 실험을 통해 추천 및 자연어 처리 과제에서 기존 최첨단 대비 성능 향상과 확장성을 입증한다.

상세 분석

이 연구는 두 가지 핵심 문제—개인별 선호 예측의 데이터 희소성 및 군중 전체 합의 추정 시 라벨 노이즈—를 동시에 해결하려는 시도로 시작한다. 기존 베이지안 선호 학습은 가우시안 프로세스(GP)를 이용해 아이템 특성 공간에서 유틸리티 함수를 모델링했지만, 사용자 수가 늘어나면 커널 행렬의 차원이 급증해 O(N³)·O(N²) 복잡도가 실용성을 저해한다. 저자들은 이를 행렬 분해와 결합해 각 사용자와 아이템을 저차원 잠재 벡터로 표현하고, 이 잠재 벡터에 GP 사전분포를 부여한다. 즉, fᵤ(x) = wᵤᵀφ(x) 형태로, wᵤ는 사용자별 가중치, φ(x)는 아이템 특성에 대한 GP 커널을 통해 얻은 임베딩이다. 이렇게 하면 사용자·아이템 수에 비례하는 파라미터만 증가하고, 커널 연산은 인덕팅 포인트 M개에 한정된다.

스케일러블 추론을 위해 스토캐스틱 변분 추론(SVI)을 적용한다. 미니배치로 페어와이즈 라벨을 샘플링하고, 변분 파라미터(인덕팅 포인트 위치·가중치·스케일 파라미터 등)를 확률적 경사 상승법으로 업데이트한다. 이 과정에서 변분 하한(Lower Bound)을 최대화함으로써 비가우시안(프로빗) 라벨 가능도를 정확히 다룰 수 있다. 또한, 라벨 노이즈를 직접 모델링하기 위해 스케일 파라미터 s에 감마 사전(Gamma prior)을 부여해 유틸리티 차이의 변동성을 조절한다.

실험에서는 두 개의 실제 데이터셋—추천 시스템 로그와 크라우드소싱된 논증 설득도 라벨—을 사용한다. 첫 번째 실험에서는 기존 GPPL, collabGP, 그리고 최신 행렬 분해 기반 모델과 비교했을 때, 제안 모델이 NDCG·AUC 등 순위 지표에서 유의미하게 우수하였다. 특히, 새로운 사용자·아이템에 대한 제로샷 예측 능력이 크게 향상되었으며, 이는 입력 특성(텍스트 임베딩·메타데이터)을 효과적으로 활용한 결과이다. 두 번째 대규모 NLP 실험에서는 수천 명의 라벨러와 수만 개의 문서 쌍을 처리하면서 메모리 사용량이 O(M²) 수준에 머물러, 기존 방법이 메모리 부족으로 학습을 포기하는 상황에서도 안정적으로 학습이 진행되었다.

핵심 기여는 (1) GP와 행렬 분해를 결합한 새로운 베이지안 프레퍼런스 모델, (2) SVI 기반의 완전 베이지안 추론으로 데이터 규모에 독립적인 연산·메모리 복잡도 달성, (3) 입력 특성을 통한 개인화·군중 합의 동시 추정, (4) 공개 소스코드 제공을 통한 재현성 확보이다. 한계점으로는 인덕팅 포인트 수 M을 어떻게 최적화할지에 대한 가이드가 부족하고, 매우 높은 차원의 텍스트 임베딩을 직접 커널에 적용할 경우 커널 매트릭스 계산 비용이 여전히 부담될 수 있다는 점을 들 수 있다. 향후 연구에서는 자동 M 선택 및 딥러닝 기반 임베딩과의 하이브리드 통합이 기대된다.