BAGEL: 적대적 제약 온라인 볼록 최적화를 위한 투사 없는 알고리즘

초록

본 논문은 제한된 온라인 볼록 최적화(COCO) 문제에서 투사 연산의 고비용을 회피하기 위해 분리 오라클(SO)을 활용한 새로운 투사‑무료 알고리즘 BAGEL을 제안한다. BAGEL은 적대적 환경에서도 비용 함수가 볼록일 때 (O(T^{1/2})) 레짐의 regret과 (\tilde O(T^{1/2})) 의 누적 제약 위반(CCV)을 달성한다. 또한, 전체 ( \tilde O(T) ) 회의 오라클 호출만으로 동일한 시간‑호라존 의존성을 보장한다.

상세 분석

BAGEL은 기존 투사‑기반 COCO 알고리즘이 달성한 최적 (O(T^{1/2})) regret을 유지하면서, 투사 연산 대신 분리 오라클을 이용해 “불가능한 투사(infeasible projection)”를 구현한다. 핵심 아이디어는 현재 점을 K 내부에 강제로 유지하도록 하는 적응형 단계 크기 (\eta_m \propto 1/\sqrt{\epsilon+\sum_{τ=1}^{m}|\bar\nabla_τ|^2}) 를 도입하고, 비용과 제약을 결합한 surrogate 함수를 Lyapunov‑like 가중치로 구성해 OCO 기반 기본 알고리즘에 적용하는 것이다. 이 과정에서 β라는 트레이드‑오프 파라미터를 도입해 오라클 호출 횟수와 regret/CCV 사이의 균형을 조절한다.

이론적 분석은 크게 두 부분으로 나뉜다. 첫째, 적응형 OGD(Online Gradient Descent) 자체에 대한 regret 한계를 증명한다. 여기서는 단계 크기가 누적 그래디언트 크기에 의존함으로써, 전통적인 고정 단계 크기 대비 오라클 호출 수를 (O(T^2)) 에서 (\tilde O(T)) 로 크게 감소시킨다. 둘째, surrogate 함수와 Lyapunov‑like 가중치를 이용해 제약 위반을 제어한다. 이때 분리 오라클이 제공하는 하이퍼플레인 정보를 활용해 현재 점이 K 밖에 있으면 빠르게 “돌려보내”는 불가능한 투사 절차를 수행한다. 결과적으로, 적대적 비용 및 제약이 매 라운드 독립적으로 바뀌어도 전체 regret은 (O(T^{1/2})) 이며, 누적 제약 위반은 (\tilde O(T^{1/2})) 에 머문다.

강도(β) 파라미터에 따라 (β\in(0,1/2]) 일 때는 (O(T^{1-β})) regret과 (\tilde O(T^{1-β})) CCV를 얻으며, 오라클 호출은 (\tilde O(T^{2β})) 에 비례한다. β=1/2를 선택하면 기존 투사‑기반 방법과 동일한 (O(T^{1/2})) regret·CCV를 유지하면서, 오라클 호출은 (\tilde O(T)) 에 그친다. 강하게 볼록한 비용 함수에 대해서는 로그‑레짐 regret (O(\log T)) 과 동일한 CCV 보장을 제공한다(정리 4).

실험적 검증은 논문에 포함되지 않았지만, 저자는 이론적 복잡도 분석을 통해 BAGEL이 고차원, 복잡한 구조(예: 스펙트럴 노름 볼)에서 LOO보다 효율적인 SO를 활용해 실용적인 성능을 기대할 수 있음을 강조한다.