Pinterest의 콜드스타트 아이템을 위한 비용 효율적 “Warmer for Less” 전략

초록

Pinterest는 시각 기반 추천 플랫폼으로, 신선한(콜드스타트) 아이템이 학습 데이터에 거의 등장하지 않아 추천 정확도가 낮아지는 문제가 있다. 논문은 콜드스타트 아이템에 대한 4가지 근본 원인을 분석하고, 각각에 대해 경량화된 해결책을 제시한다. 비히스토리 피처에 잔차 연결을 추가해 학습 시그널을 강화하고, 점수 편향을 완화하기 위해 MMD 기반 정규화 손실을 도입한다. 또한 라벨 희소성을 극복하기 위해 매니폴드 믹스업을 적용한다. 전체 파라미터 증가율은 5%에 불과하며, 실제 A/B 테스트에서 전체 참여도는 유지하면서 신선한 콘텐츠 참여도가 10% 상승했다.

상세 분석

본 논문은 산업 규모의 추천 시스템에서 콜드스타트 아이템(이하 CS 아이템)이 겪는 네 가지 핵심 병목을 정량적으로 규명한다. 첫째, CS 아이템은 전체 트래픽에서 차지하는 비중이 낮아 추가 연산 비용을 최소화해야 한다는 제약이 있다. 이를 해결하기 위해 저자는 기존 모델에 5% 이하의 파라미터만을 추가하는 경량 설계를 채택했으며, 이는 실시간 서빙 비용에 거의 영향을 주지 않는다.

둘째, CS 아이템은 히스토리 피처(사용자‑아이템 상호작용 기록)가 부족하고, 비히스토리 피처(이미지, 텍스트, 메타데이터)만으로 표현된다. 기존 모델은 히스토리 피처에 과도하게 의존해 비히스토리 피처의 그래디언트 크기가 현저히 작다는 점을 실험적으로 확인하였다(그라디언트 L2‑norm 비율 < 1). 이를 보완하기 위해 비히스토리 피처를 직접 예측 모듈 F에 연결하는 잔차 경로(residual connection)를 도입하였다. 이 경로는 인터랙션 모듈 I를 우회해 비히스토리 피처가 손실 함수에 직접 기여하도록 하며, 파라미터 증가량은 5% 미만에 그친다.

셋째, 모델은 학습 데이터에서 관측된 CS 아이템의 긍정 라벨 비율이 낮아 점수 편향(score bias)을 보인다. 구체적으로 CS 긍정 샘플의 평균 예측 점수가 워밍 아이템보다 8~14% 낮았다. 저자는 워밍·콜드 점수 분포 간 차이를 최소화하는 정규화 손실을 도입했으며, 이는 Maximum Mean Discrepancy(MMD) 기반으로 구현돼 추가 연산 비용이 거의 없다. 이 손실은 두 집합의 평균 점수 차이를 직접 제어함으로써, 모델이 콜드 아이템을 과소평가하는 현상을 완화한다.

넷째, CS 아이템은 라벨 자체가 희소해 학습이 어려운데, 이를 해결하기 위해 매니폴드 믹스업(manifold mixup)을 적용했다. 이는 중간 레이어에서 임베딩을 선형 보간하고, 라벨도 동일 비율로 보간해 새로운 합성 샘플을 생성한다. 결과적으로 모델은 입력 공간에서 선형성을 학습하게 되어, 보다 풍부하고 고차원적인 표현을 획득한다. 이는 특히 라벨이 적은 CS 아이템에 대한 일반화 능력을 크게 향상시킨다.

전체 실험에서는 각 구성 요소를 단계별로 Ablation Study를 수행했으며, 모든 기법을 결합했을 때 전체 참여도는 유지하면서 신선한 콘텐츠(콜드 아이템) 클릭‑through‑rate(CTR)과 참여도가 약 10% 상승했다. 배포 비용은 기존 인프라와 동일했으며, 5억 7천만 명 이상의 사용자에게 실시간으로 적용되었다.

이 연구는 (1) 데이터 기반 원인 분석 → (2) 경량화 설계 → (3) 손실 함수 기반 편향 교정 → (4) 데이터 증강이라는 체계적인 파이프라인을 제시함으로써, 대규모 산업 환경에서 콜드스타트 문제를 해결하는 실용적 로드맵을 제공한다는 점에서 의의가 크다.