균일 최적·파라미터 프리 1차 방법으로 보는 함수 제약 볼록 최적화

초록

본 논문은 함수 제약이 있는 볼록 최적화 문제에 대해, 매끄러움 정도를 사전에 알 필요 없이 최적의 오라클 복잡도를 달성하는 새로운 1차 방법들을 제안한다. 최적값 $f^{}$가 알려진 경우에는 수정된 Polyak 단계와 Nesterov 모멘텀을 결합한 가속화된 Polyak Minorant Method(APMM)를, 알려지지 않은 경우에는 레벨셋 기반의 근사 고정점 및 절단(secant) 기법을 이용해 $f^{}$를 추정하고, 이를 가속화된 Prox‑Level(APL) 방법으로 해결한다. 두 경우 모두 Hölder 연속성 가정 하에 $\mathcal{O}(\varepsilon^{-2/(1+3\rho)})$의 최적 복잡도를 보이며, 실험을 통해 기존 방법들을 능가함을 입증한다.

상세 분석

이 논문은 볼록 함수 $f$와 제약 함수 $g_i$가 정의된 집합 $X$ 위에서
\