적응형 단일루프 방법으로 풀어보는 리만 다양체 위 확률적 최소극대 최적화

초록

본 논문은 리만 다양체 상의 확률적 최소극대 문제를 위해 사전 파라미터 없이 자동으로 학습률을 조정하는 단일루프 적응형 알고리즘을 제안한다. 결정론적 버전은 $O(\varepsilon^{-2})$ 이터레이션에 $\varepsilon$‑정지점을 찾고, 확률적 버전은 추가적인 2차 매끄러움 가정 하에 $O(\varepsilon^{-4})$ 로 복잡도를 개선한다. 실험은 강인한 최대우도 추정 및 정규직교 가중치를 갖는 신경망 학습에서 좋은 성능을 확인한다.

상세 분석

이 논문은 두 단계로 구성된 연구 흐름을 제시한다. 첫 번째 단계에서는 결정론적 최소극대 문제 $\min_{x\in\mathcal M_x}\max_{y\in\mathcal M_y}f(x,y)$에 대해 Riemannian Adaptive Gradient Descent Ascent (RAGDA)라는 단일루프 알고리즘을 설계한다. 핵심 아이디어는 각 반복에서 원시 변수 $x$와 이중 변수 $y$의 기하학적 그라디언트를 계산하고, 누적된 제곱 그라디언트 노름 $v_x^t$, $v_y^t$을 이용해 학습률을 $\eta_x\big/\max{v_x^{t+1},v_y^{t+1}}^\alpha$와 $\eta_y (v_y^{t+1})^{-\beta}$ 형태로 자동 조정한다. 여기서 $\alpha,\beta\in(0,1]$는 이론적 수렴을 보장하기 위한 하이퍼파라미터이며, $\max$ 연산은 원시와 이중의 스케일을 맞춰 과도한 원시 업데이트를 방지한다. 리만 재트랙션을 사용해 업데이트를 다양체 위에 보존하고, 재트랙션 정확도 가정을 통해 실제 지수 사상과의 차이를 제어한다.

수렴 분석에서는 Lipschitz 연속성(Lipschitz smoothness)과 $y$에 대한 지오데식 강한 볼록성(geodesic strong concavity)을 기본 가정으로 삼는다. 이 두 가정은 Riemannian 거리와 그라디언트 차이 사이에 선형/이차 경계를 제공해, 전형적인 descent‑ascent 부등식을 다양체 버전으로 확장한다. 이러한 부등식과 누적 그라디언트 노름의 성장 제어를 결합해, $|\operatorname{grad}_x f|$와 $|\operatorname{grad}_y f|$가 각각 $\mathcal O(1/\sqrt{T})$ 로 감소함을 보이고, 따라서 $\varepsilon$‑정지점에 도달하기 위해 $T=O(\varepsilon^{-2})$ 이터레이션이 필요함을 증명한다.

두 번째 단계에서는 위의 결정론적 설계를 확률적 상황에 확장한 RSA‑GDA를 제안한다. 여기서는 미니배치 샘플링을 통해 얻은 무편향 그라디언트 추정치를 사용하고, 누적 노름을 동일하게 업데이트한다. 추가적인 가정으로는 그라디언트의 유한 분산과 2차 매끄러움(즉, Hessian이 Lipschitz 연속)이다. 이 경우, 노이즈가 누적 그라디언트에 미치는 영향을 정밀히 분석해, 기본 경우에 $O(\varepsilon^{-6})$ 복잡도를 얻는다. 그러나 Hessian이 Lipschitz 연속이라는 2차 매끄러움 가정을 도입하면, 노이즈에 대한 제어가 강화되어 $O(\varepsilon^{-4})$ 로 개선된다. 흥미롭게도 이 복잡도는 유클리드 공간에서 알려진 $O(\varepsilon^{-(4+\tilde\varepsilon)})$ 보다 더 나은 결과이며, 이는 Hadamard 다양체의 음의 곡률이 제공하는 구조적 이점을 활용한 것이다.

실험에서는 (1) 정규화된 강인 최대우도 추정 문제와 (2) 정규직교 가중치를 갖는 신경망의 적대적 훈련을 대상으로 기존 Riemannian Extragradient, Hamiltonian Gradient, 그리고 비적응형 GDA와 비교한다. 적응형 스텝 사이즈 덕분에 RSA‑GDA는 동일한 학습률 튜닝 없이도 빠른 수렴과 안정적인 최종 성능을 보이며, 특히 높은 차원의 Stiefel 및 구면 다양체에서 계산 효율성을 입증한다.

전반적으로 이 논문은 (i) 사전 파라미터 의존성을 완전히 제거한 단일루프 적응형 설계, (ii) 리만 다양체 특성을 정밀히 활용한 복잡도 분석, (iii) 실제 머신러닝 응용에서의 실증적 효과라는 세 축을 동시에 만족시키며, 리만 최적화 분야에서 확률적 최소극대 문제에 대한 새로운 기준점을 제시한다.