시간변동 이동비용을 고려한 파라미터‑프리 동적 후회 최소화와 지연·메모리 확장

초록

본 논문은 이동비용 계수 λₜ가 시간에 따라 변하는 무제한 온라인 볼록 최적화(OCO) 문제에서, 비교자‑적응형 동적 후회 (\widetilde O\big(\sqrt{(1+P_T)(T+\sum_{t=1}^T\lambda_t)}\big))를 달성하는 새로운 파라미터‑프리 알고리즘을 제시한다. 또한 이 프레임워크를 이용해 지연 피드백과 시간‑가변 메모리 문제를 각각 이동비용 형태로 환원시켜, 기존 결과보다 더 강력한 지연 의존도와 메모리 의존도를 얻는다.

상세 분석

이 논문은 기존 OCO 연구에서 두 가지 제한을 동시에 해소한다. 첫째, 이동비용(스위칭 비용)이 고정된 경우만 다루던 대부분의 연구와 달리, λₜ를 임의의 비음수 시퀀스로 허용한다. 이는 실제 시스템에서 거래 비용, 네트워크 지연, 서버 부하 등 시간이 변동하는 비용을 모델링하는 데 필수적이다. 둘째, 무제한(decoupled) 결정 공간 ℝⁿ에서 파라미터‑프리, 즉 사전 지식 없이 비교자 ‖uₜ‖와 경로 길이 P_T에 자동 적응하는 알고리즘을 설계한다는 점이다.

핵심 기술은 Composite Mirror Descent(CMD) 프레임워크에 특수 설계된 “선형‑로그” 정규화 함수 ψ(w)=2ηR‖w‖₀ log(‖w‖/α+1)와, 매 라운드마다 βₜ=‖gₜ‖+λₜ₊₁을 이용한 보정항 φₜ(w)=(ηβₜ²+γ)‖w‖을 결합한 업데이트식이다. ψ는 무제한 도메인에서도 급격한 성장(aggressive growth)을 허용해 비교자 ‖u‖가 크게 변해도 안정성을 유지하고, φₜ는 큰 이동비용이나 급격한 기울기일 때 업데이트를 억제하는 “동적 마찰” 역할을 한다. 이 설계는 기존 Jacobsen‑Cutkosky(2022) 알고리즘을 확장하면서, λₜ에 대한 일차 의존성을 명시적으로 포함한다는 점에서 차별화된다.

이론적 분석은 Bregman 발산과 φₜ의 강제성(strong convexity) 결합을 이용해,
\