다중 커널 학습의 통합적 관점

초록

본 논문은 다중 커널 학습(MKL)을 위한 일반화된 최적화 기준을 제시하고, 기존의 다양한 MKL 모델들을 하나의 프레임워크 안에 포함시킨다. 제안된 기준의 쌍대식은 부드러운 최적화 알고리즘에 적합하도록 변형되었으며, Rademacher 복잡도 분석을 통해 일반화 오차에 대한 이론적 경계를 제공한다. 실험 결과는 제안된 통합 모델이 기존 방법들을 능가함을 보여준다.

상세 분석

논문은 먼저 기존 MKL 연구가 목표 함수와 정규화 방식에서 크게 두 갈래로 나뉘어 있음을 지적한다. 일부는 커널 가중치를 ℓ₁-노름으로 제한해 희소성을 유도하고, 다른 일부는 ℓ₂-노름 혹은 혼합 노름을 사용해 부드러운 가중치 분포를 만든다. 이러한 분산된 접근법은 최적화 복잡도와 일반화 성능 사이에 트레이드오프를 발생시킨다. 저자들은 이를 하나의 일반화된 목적식

\