무정형 커널을 이용한 서포트 벡터 머신 분류
본 논문은 양의 반정정밀도(positive semidefinite) 조건을 만족하지 않는, 즉 무정형(indefinite) 커널을 직접 활용할 수 있는 새로운 SVM 학습 프레임워크를 제안한다. 원본 무정형 커널과 근접한 양의 반정정밀도 커널을 찾는 페널티 기반 최적화 문제를 정의하고, 내부의 커널 학습 부분을 닫힌 형태로 풀어내어 전체 문제를 볼록(convex) 최적화로 변환한다. 투영 그래디언트와 분석 중심 절단 평면(analytic‑cen…
저자: Ronny Luss, Alex, re dAspremont
본 논문은 서포트 벡터 머신(SVM)에서 핵심적인 역할을 하는 커널 행렬이 양의 반정정밀도(positive semidefinite, PSD)이어야 한다는 전통적인 가정에 도전한다. 실제 많은 유사도 측정, 예를 들어 Earth Mover’s Distance, Smith‑Waterman 점수, Tangent distance 등은 Mercer 조건을 만족하지 않아 무정형(indefinite) 커널을 형성한다. 이러한 무정형 커널은 데이터의 구조적 특성을 잘 포착하지만, 기존 SVM 프레임워크에 바로 적용하면 비볼록(non‑convex) 최적화 문제가 발생한다. 저자들은 무정형 커널을 “노이즈가 섞인 관측값”으로 보고, 원본 무정형 커널 K₀와 근접하면서도 PSD인 프록시 커널 K̂를 찾는 페널티 기반 최적화 문제를 정의한다.
### 1. 문제 정의와 볼록성 확보
목표는 다음과 같은 이중 최적화 문제이다.
\
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기