정규화 랜덤 푸리에 특징과 GMM 커널의 선형화 비교

본 연구는 비선형 커널을 선형화하여 대규모 학습에 적용할 수 있는 두 가지 접근법, 즉 정규화 랜덤 푸리에 특징(NRFF)과 일반화된 최소‑최대(GMM) 커널을 해시 기반으로 선형화한 Generalized Consistent Weighted Sampling(GCWS)를 제안하고, 이들의 이론적·실험적 성능을 종합적으로 비교한다. 1. **배경 및 문제 정의** - 선형 모델은 대규모 데이터에서 효율적이지만, 비선형 관계를 포착하기 위해 커널 SVM이 널리 사용된다. - RBF 커널은 Bochner 정리를 통해 랜덤 푸리에 특징(RFF)으로 근사 가능하지만, 샘플 수 \(k\)가 제한될 경우 분산이 커서 근사 정확도가 떨어진다. 2. **RFF와 정규화 RFF(NRFF)의 이론적 분석** - RFF는 \(\sqrt{2}\cos(\sqrt{\gamma}x + w)\) 형태의 랜덤 매핑을 사용해 \(\mathbb{E}