고차원 희소 데이터의 효율적 유사도 학습

본 논문은 차원이 매우 크고 데이터가 희소한 상황에서, 기존의 유사도·거리 메트릭 학습이 직면하는 “\(O(d^2)\) 파라미터 추정” 문제를 근본적으로 해결하고자 한다. 저자는 먼저 문제 정의를 명확히 한다. 입력 데이터는 \(\mathcal X\subset\mathbb R^d\) 에 속하며, 평균 비제로 차원 \(D\) 가 \(d\) 에 비해 매우 작다. 목표는 bilinear similarity \(S_M(x,x')=x^TMx'\) 를 학습하는 것이며, 여기서 \(M\) 은 대칭 PSD 행렬이어야 한다. 학습 데이터는 삼중항 제약 \(\mathcal T=\{(x_t,y_t,z_t)\}_{t=1}^T\) 로 주어지며, 각 제약은 “\(x_t\) 가 \(y_t\) 와는 더 가깝고 \(z_t\) 와는 더 멀다” 라는 순위 정보를 담는다. 이를 수학적으로 표현하면, \(\langle A_t,M\rangle = S_M(x_t,y_t)-S_M(x_t,z_t)\) 가 1 이상이 되도록 하는 것이 목표이며, 만족하지 못할 경우 스무딩 힌지 손실 \(\ell\) 로 패널티를 부여한다. 최적화 문제는 \