노이즈를 넘어 순서로 확산 모델 기반 학습 순위

초록

이 논문은 기존의 판별형 학습‑순위(LTR) 방식을 넘어, 특성 벡터와 관련성 레이블의 전체 결합 분포를 모델링하는 확산 기반 생성 모델인 DiffusionRank를 제안한다. TabDiff의 연속‑시간 확산 과정을 LTR 데이터에 적용해 점별·쌍별 목표를 생성형 손실로 변환하고, 실험을 통해 판별형 대비 성능 향상을 입증한다.

상세 분석

본 연구는 학습‑순위 분야에서 판별형 접근법이 갖는 한계를 생성형 확산 모델을 통해 극복하고자 한다. 기존 LTR은 쿼리‑문서 쌍의 특징 벡터 x와 레이블 y 사이의 조건부 확률 p(y|x)를 직접 예측하는 방식에 머물렀으며, 과다 파라미터화된 모델은 학습 데이터에 대해 여러 해를 찾을 수 있다. 저자들은 이러한 다중 해 중에서 전체 데이터 분포 p(x, y)를 잘 설명하는 해가 더 견고한 순위 모델을 만든다고 가정한다. 이를 검증하기 위해 Tabular Diffusion(TabDiff)에서 제안된 연속‑시간 마스크 기반 확산 과정을 LTR 특성에 맞게 확장하였다. 구체적으로, 연속형 특성(예: BM25, PageRank 등)은 가우시안 노이즈를, 이산형 레이블(점별 레이블 혹은 쌍별 선호)은 마스크/노이즈를 통해 점진적으로 손상시킨 뒤, 역확산 과정에서 하나의 feed‑forward 네트워크가 원본 데이터를 복원하도록 학습한다. 중요한 설계 선택은 다음과 같다. 첫째, TabDiff의 마스크 확산은 단일 스텝 복원으로 추론 비용을 크게 낮춘다. 따라서 DiffusionRank는 판별형 LTR과 동일한 추론 시간에 점수를 산출한다. 둘째, 복원 네트워크를 트랜스포머 대신 얕은 feed‑forward 구조로 구현해 파라미터 수를 최소화했으며, 이는 기존 판별형 모델과 비교해 학습·추론 효율성을 유지한다. 셋째, 점별 손실은 기존 교차 엔트로피(CE)와 동일한 형태로 정의되지만, 모델이 전체 데이터 분포를 학습하도록 변형된 확산 손실을 사용한다. 쌍별 손실은 RankNet의 로짓 형태를 그대로 유지하면서, 역확산 과정에서 쌍의 선호 정보를 복원하도록 설계하였다. 이러한 설계는 기존 판별형 손실과 직접 비교 가능하게 하면서도, 생성형 학습이 제공하는 정규화 효과와 데이터 분포 적합성을 활용한다. 실험에서는 LETOR, MSLR‑Web30 등 공개 LTR 벤치마크를 사용해 점별 및 쌍별 설정 모두에서 NDCG@10, MAP 등 주요 지표가 판별형 대비 평균 2~4% 상승함을 보고한다. 특히, 데이터가 희소하거나 레이블 불균형이 심한 상황에서 생성형 모델이 과적합을 억제하고 일반화 성능을 크게 개선한다는 점이 눈에 띈다. 마지막으로, 저자들은 확산 기반 LTR이 향후 대규모 사전학습 언어 모델, 멀티모달 피처 결합, 그리고 프라이버시 보호를 위한 합성 데이터 생성 등 다양한 연구 방향과 자연스럽게 연결될 수 있음을 강조한다. 전체적으로, 이 논문은 확산 모델을 LTR에 적용함으로써 생성‑판별 혼합 학습의 가능성을 제시하고, 실험적 증거를 통해 그 효용성을 입증한다.