STP 알고리즘의 거의 확실한 수렴성 분석

초록

본 논문은 파생‑없는 최적화 기법인 Stochastic Three Points (STP) 알고리즘에 대해, 부드러운 비볼록 함수, 부드러운 볼록 함수, 그리고 부드러운 강볼록 함수 세 종류에 대해 거의 확실(almost sure) 수렴성을 최초로 정량화한다. 최적점 근처에서의 그래디언트 크기와 함수값 감소율을 확률론적 단계크기 스케줄과 결합해 $o(T^{-½+ε})$, $o(T^{-1+ε})$, 그리고 선형 수렴률 $O((1-μ/(2πdL))^T)$ 등으로 제시한다. 또한 기대값 기준 수렴률도 차원 $d$에 선형적으로 의존하는 형태로 제공한다.

상세 분석

논문은 먼저 STP 알고리즘을 정의하고, 무작위 탐색 방향 $s_t\sim\mathcal D$와 고정된 스텝 사이즈 $\alpha_t$를 이용해 현재점 $\theta_t$와 양쪽 방향 $\theta_t\pm\alpha_t s_t$ 중 함수값이 최소인 점을 선택한다. 이 구조는 전통적인 직접 탐색(Direct Search)과 달리 스텝 선택이 전역 최적화 문제에 대한 확률적 보장을 제공한다는 점에서 핵심이다.

이론적 분석은 크게 세 단계로 전개된다. 첫 번째 단계에서는 부드러운($L$‑smooth) 함수에 대해, 스텝 사이즈를 $\alpha_t = \alpha t^{-½-ε}$ ($ε\in(0,½)$) 로 설정하면 최소 그래디언트 노름 $\min_{1\le t\le T}|\nabla f(\theta_t)|$ 가 거의 확실히 $o(T^{-½+ε})$ 로 수렴함을 보인다. 여기서는 마르코프 부등식과 Robbins‑Monro 조건 $\sum_t\alpha_t=\infty$, $\sum_t\alpha_t^2<\infty$ 를 활용해 확률적 수렴을 증명한다.

두 번째 단계에서는 같은 부드러운 함수 클래스에 대해 최종 iterate $\theta_T$ 의 그래디언트가 $E