데이터 기반 반정밀 최소제곱의 스펙트럼 집중 불평등

초록

본 논문은 반정밀 제약이 있는 최소제곱 문제를 데이터 기반으로 풀 때, 제약을 완화한 간단한 프로그램을 사용해도 최적해의 스펙트럼이 원래 제약 구간에 ε‑근접함을 확률적 유한표본 보증으로 제시한다. 제시된 ε는 표본 수 N이 증가함에 따라 1/√N 비율로 감소하며, 분포에 무관하고 i.i.d. 샘플만 필요하다. 또한, 이 결과를 이용해 이차 함수 학습 시 무제약 서브문제의 해를 사용한 경사하강법이 원래 최적점에 ε‑반경 내에서 수렴함을 보인다. 실험을 통해 이론적 경계와 실제 성능을 확인하였다.

상세 분석

본 연구는 반정밀(semidefinite, SD) 제약이 포함된 최소제곱(Least Squares, LS) 문제를 데이터‑드리븐 방식으로 접근할 때, 제약을 완화한 단순 최적화 문제를 풀어도 원래 SD 제약이 요구하는 스펙트럼 구간