지역 지원 벡터 머신의 이론적 분석과 일관성

본 논문은 지역 지원 벡터 머신(LSVM)의 이론적 토대를 마련하고, 가장 기본적인 형태인 로컬 선형 지원 벡터 머신(LLSVM)에 대한 점별 일관성 및 수렴 속도를 rigorously하게 분석한다. 1. **배경 및 동기** - 전통적인 이진 분류 방법인 k‑NN은 테스트 포인트 주변의 이웃을 이용해 라벨을 결정하는 로컬 학습 방식이다. 반면, 서포트 벡터 머신(SVM)은 전역적인 마진 최적화를 통해 강건한 분류기를 만든다. LSVM은 이 두 접근법을 결합해, 테스트 포인트 x₀ 주변의 데이터에만 가중치를 부여하고, 힌지 손실 기반의 마진 최적화를 수행한다. 이렇게 하면 데이터가 매니폴드 위에 놓이거나, 다중 모드·이질적인 구조를 가질 때 전역 SVM보다 더 효율적인 분류가 가능하다. 2. **수식화** - LSVM은 스무딩 커널 K(x, x₀, σ)와 정규화 파라미터 λ를 도입한 다음 최적화 문제를 푼다. \