스무딩 기반 적응형 행렬 온라인 학습: 비부드럽고 비볼록 최적화에 대한 보장

초록

본 논문은 연산자 노름 제약을 갖는 행렬 온라인 선형 최적화에서, 비용이 큰 이차 투영 없이도 Shampoo와 동등한 적응형 regret을 달성하는 두 가지 스무딩 기반 알고리즘을 제안한다. Gaussian FTPL과 하이퍼볼릭 FAML을 통해 폐쇄형 업데이트를 제공하고, 이를 온라인‑비볼록 변환에 적용해 Pion·Leon 최적화기가 비부드러운 비볼록 문제에서도 수렴을 보장함을 증명한다.

상세 분석

이 논문은 연산자 노름(‖·‖ₒₚ) 구속을 가진 행렬 변수 X∈ℝ^{m×n}에 대한 온라인 선형 최적화(OLO)를 다룬다. 기존 최적의 적응형 regret을 제공하는 Shampoo 계열은 매 라운드마다 연산자 노름 구속 하의 이차 투영 문제를 풀어야 하는데, 이는 닫힌 형태가 없고 고비용 SVD·반복법을 요구한다. 저자들은 이를 회피하기 위해 “스무딩된 잠재함수(smooth potential)” 접근을 제안한다. 핵심 아이디어는 핵심 잠재함수 Φ(S)=‖S‖* (핵노름) 를 직접 사용하면 비부드러워 Bregman 발산이 크게 폭주하므로, PSD 행렬 L에 매개된 스무딩 eΨ(·;L) 를 설계해 부드러움을 확보한다. 정의 3.1에서 (α,β)-admissible smoothing을 제시하고, (a)∼(d) 네 조건을 통해 (i) 연산자 노름 제한 만족, (ii) 원래 핵노름을 하위우위, (iii) 잠재함수 변화에 대한 상한, (iv) L‑가중 Bregman 발산의 2‑Lipschitz성을 보장한다. 정리 3.2는 L_t = G²I+M_t (M_t는 누적 그라디언트 외적) 로 선택하고 η=α/β 로 스케일링하면, regret ≤2√{αβ}·D·Tr(√{G²I+M_T}) + (1-√{αβ})·D·‖G₁‖* 를 얻는다. 여기서 αβ가 1/2 이상임을 명시한 명제 3.3은 최적 하한을 제시하고, eΨ_R (정규화된 2‑차형 스무딩) 이 (½,1)-admissible임을 증명한다. 따라서 αβ=½ 를 달성하면 Shampoo와 동일한 O(D·Tr(√M_T)) regret을 얻는다.

두 구체적 알고리즘은 이 프레임워크를 구현한다. 첫 번째는 Gaussian stochastic smoothing을 이용한 적응형 FTPL이다. 무작위 Gaussian 잡음 Z∼𝒩(0,σ²L^{-1}) 를 추가해 X_{t+1}=−D·∇S eΨ{FTPL}(S_t+Z) 로 업데이트하고, 비중심 Wishart 분포를 이용해 기대값을 계산함으로써 폐쇄형 식을 얻는다. 정리 4.1은 차원 의존 상수 √{log(m+n)} 정도만 추가로 αβ≥c·log(m+n) 를 만족함을 보인다. 두 번째는 하이퍼볼릭 스무딩을 사용한 FAML이다. 행렬을 (X,1) 형태의 확대 공간에 매핑하고, 잠재함수 eΨ_{FAML}(S;L)=max_{‖X‖ₒₚ≤1}⟨S,X⟩−½Tr(XᵀLX) +½Tr(L) 로 정의한다. 이 경우 최적 X는 L^{-1/2}·sign(L^{-1/2}S) 형태로 구해져, 계산 비용이 O(mn) 수준의 행렬 곱만 필요하다. 정리 4.2는 이 스무딩이 (½,1)-admissible임을 증명해, Shampoo와 동일한 상수 팩터(최대 2배) 내에서 regret을 달성함을 보여준다. 두 방법 모두 SVD 없이도 폐쇄형 업데이트가 가능하므로, 실제 실행 시간과 메모리 사용량이 크게 감소한다.

마지막으로 온라인‑비볼록 변환(O2NC) 프레임워크를 적용해, FTPL 기반 Pion과 FAML 기반 Leon 최적화기를 설계한다. 이들은 비부드러운 비볼록 목적 f에 대해 (ρ,ε)-정상점에 수렴한다는 정리 5.2·5.3을 제공한다. 특히, 기존에 널리 쓰이는 Muon 옵티마이저는 스펙트럼 제약 FTL의 특수 케이스로, 비부드러운 상황에서 수렴 보장이 없었음이 논문에서 명확히 밝혀진다. 따라서 Pion·Leon은 Muon의 실용성을 유지하면서도 이론적 수렴을 보장하는 첫 번째 행렬 기반 옵티마이저라 할 수 있다.