확률적 근접 알고리즘의 마지막 반복 수렴 속도 분석

초록

본 논문은 부드러운 손실과 비부드러운 정규화항을 갖는 합성 볼록 최적화 문제에 대해, 기존의 제한적인 “bounded variance” 가정 없이도 확률적 근접 경사법(Proximal SGD)과 무작위 증분 근접법(RIPM)의 마지막 반복에 대해 (\widetilde O(1/\sqrt T)) 수렴률을 증명한다. 특히 그래프 기반 정규화가 여러 작업·연합 학습에 적용되는 경우를 직접 다루며, 로그 항을 제외하면 최적의 속도를 달성한다.

상세 분석

이 연구는 두 가지 고전적인 확률적 근접 알고리즘을 대상으로 한다. 첫 번째는 단일 비부드러운 정규화항 (g) 에 대해 근접 연산자를 직접 적용하는 Proximal SGD(SPGD)이며, 두 번째는 정규화항이 (g(x)=\sum_{j=1}^m g_j(x)) 와 같이 가산적으로 분해될 때, 매 반복마다 무작위로 선택된 (g_j) 의 근접 연산자를 사용하는 Randomized Incremental Proximal Method(RIPM)이다. 기존 문헌에서는 마지막 반복에 대한 수렴률을 보이기 위해 전역적인 그래디언트 분산 제한(“bounded variance”)을 가정했지만, 이는 실제 데이터에서 쉽게 깨지는 가정이다.

논문은 대신 각 (f_i) 가 (L)-스무스하고 볼록함을 이용해 코코에르시비티(co‑coercivity) 부등식을 적용한다. 이 부등식은 (|\nabla f_i(x)-\nabla f_i(y)|^2\le 2L\big(f_i(x)-f_i(y)-\langle\nabla f_i(y),x-y\rangle\big)) 와 같이 함수값만으로 그래디언트 크기를 제어한다. 이를 통해 (x_t) 에서의 그래디언트 제곱 노름을 최적점 (x^\star) 의 그래디언트 제곱 노름 (\sigma_\star^2) 와 함수값 차이 (f(x_t)-f(x^\star)) 의 선형 결합으로 상한한다. 결과적으로, 분산 항이 (O(\tau^2\sigma_\star^2)+O(\tau L\big(f(x_t)-f(x^\star)\big))) 형태가 되며, 적절히 작은 스텝 사이즈 (\tau\le 1/(2L)) 를 선택하면 두 번째 항이 감소 항에 흡수된다.

근접 연산자의 비선형성 때문에 전통적인 2‑점 거리 전개식( (|x_{t+1}-z|^2) )이 깨진다. 대신 논문은 삼점 항등식 (|x_{t+1}-z|^2=|x_t-z|^2+2\langle x_{t+1}-x_t,x_t-z\rangle+|x_{t+1}-x_t|^2) 을 이용하고, 근접 연산자의 비팽창성(non‑expansiveness)과 파라메트릭 형태의 최적성 조건 (0\in\nabla f(x^\star)+\partial g(x^\star)) 을 결합해 새로운 일회 반복 부등식을 도출한다(Lemma 3.2). 이 부등식은 기존 무제한 분산 가정 하의 SGD 분석과 구조는 유사하지만, (x_{t+1}) 가 좌변에 남아 있다는 점이 차별화된다.

그 후, Zamani와 Glineur의 “last‑iterate reduction” 기법을 확장해, 일회 반복 부등식을 전체 (T) 스텝에 걸쳐 텔레스코핑한다. 이를 통해 최종 반복 (x_{T+1}) 에 대한 기대 손실 차이 (E