무작위 스케치로 풀어내는 고차원 볼록 최적화와 정확한 차원 축소 이론

** 본 논문은 무작위 투영(Random Projection, RP)을 이용해 일반적인 볼록 최적화 문제를 저차원으로 스케치(sketched)하는 방법을 체계적으로 분석하고, 그 정확도와 샘플 복잡도에 대한 ‘샤프(Sharp)’한 이론적 보장을 제공한다. 1. **문제 설정 및 목표** - 원문제: \(\min_{x\in C}\|Ax-y\|_2^2\) (또는 일반적인 볼록 목적함수) - 여기서 \(C\subset\mathbb R^d\)는 임의의 볼록 집합, \(A\in\mathbb R^{n\times d}\), \(y\in\mathbb R^n\)는 관측 데이터이다. - 목표는 원문제와 동일한 최적값을 \(\delta\) 수준 안에서 근사하는 \(\tilde x\)를, 차원 \(m\ll n\)인 스케치 행렬 \(S\in\mathbb R^{m\times n}\)를 통해 얻는 것이다. 2. **핵심 기하학적 도구** - 최적점 \(x^\*\)에서 정의되는 접선 원뿔 \(\mathcal K\) (제약 집합 \(C\)의 로컬 구조)와 그 이미지 \(A\mathcal K\)를 고려한다. - Gaussian 폭 \(W(A\mathcal K)=\mathbb E_g