무작위 제로오더 방법으로 준볼록 함수 최적화

초록

본 논문은 Gaussian 스무딩 기반 무작위 제로오더(Zero‑Order) 오라클을 이용해 준볼록(quasar‑convex) 및 강준볼록(strongly quasar‑convex) 함수의 전역 최소점을 찾는 알고리즘을 제안한다. 무제한 문제에서는 ε‑정밀도에 대해 O(n/ε)·O(n·log(1/ε))의 복잡도를, 제약 문제에서는 새로운 “proximal‑quasar‑convex” 개념을 도입해 유사한 복잡도와 변동 감소 기법을 통한 근접 해 보장을 제공한다. 실험은 선형 동적 시스템 식별 및 일반화 선형 모델 등에서 기존 1차 방법과 경쟁력 있음을 보여준다.

상세 분석

이 논문은 최근 관심이 급증하고 있는 제로오더 최적화와, 머신러닝·제어 분야에서 자연스럽게 등장하는 준볼록(quasar‑convex) 구조를 연결한다는 점에서 학술적·실용적 의의가 크다. 먼저 저자는 Gaussian 스무딩을 통해 원함수 f의 부드러운 근사 f_µ를 정의하고, 두 점 함수값 차이를 이용한 무작위 그라디언트 추정기 g_µ(x)= (f(x+µu)-f(x))/µ·Bu 를 활용한다. Nesterov·Spokoiny(2017)의 무편향성 결과를 그대로 차용하면서, 이 추정기가 f_µ의 실제 그라디언트와 일치함을 보인다.

핵심 이론적 기여는 두 가지이다. 첫째, 준볼록성 정의(γ‑quasar‑convex)와 강준볼록성 정의(β‑strongly‑γ‑quasar‑convex)를 이용해, 무제한 문제에서 알고리즘 1(Random Min, RM)의 수렴률을 O(n/ε) (준볼록)와 O(n·log(1/ε)) (강준볼록)로 증명한다. 이는 기존 Gaussian‑smoothing ZO가 convex 혹은 일반 비볼록 함수에 대해 제공하던 복잡도와 동일하거나 더 나은 수준이며, 특히 비볼록 구조를 활용한다는 점에서 혁신적이다.

둘째, 제약 최적화 상황을 위해 “proximal‑quasar‑convexity”라는 새로운 개념을 도입한다. 이는 기존의 proximal operator와 Q_l(x,a) 정의를 결합해, 비미분 가능 정규화 항 l(x)와 결합된 목표 F(x)=f(x)+l(x)에도 동일한 수렴 보장을 가능하게 한다. 이 경우에도 ε‑정밀도에 대해 O(n/ε)·O(n·log(1/ε))의 복잡도를 유지하며, 변동 감소(variance reduction) 스키마를 적용하면 근처 영역의 반경을 임의로 작게 만들 수 있음을 증명한다.

알고리즘 설계 측면에서 저자는 배치 크기 t, 스무딩 파라미터 µ, 단계 크기 h_k 를 정확히 조정해 편향(스무딩에 의한)과 분산(무작위 샘플링에 의한) 사이의 트레이드오프를 최적화한다. 특히, 변동 감소를 위해 다중 샘플 평균을 사용하고, 제약 상황에서는 투사 연산 Proj_X를 적용해 feasible set 안에서 진행한다.

실험 부분에서는 선형 동적 시스템 식별, 일반화 선형 모델(GLM), 서포트 벡터 머신(SVM) 등에서 RM 알고리즘을 SGD와 비교한다. 결과는 특히 고차원(n≫1)에서 샘플 효율성이 비슷하거나 더 우수함을 보여준다. 특히, 함수 평가가 저렴하고 그라디언트 계산이 불가능한 블랙박스 상황에서 ZO 접근법의 실용성을 강조한다.

하지만 몇 가지 한계도 존재한다. 첫째, 복잡도 분석이 기대값(E) 기준이며, 고확률 경계는 제공되지 않아 실제 구현 시 변동성이 클 수 있다. 둘째, µ와 t 선택이 이론적 최적값에 민감한데, 실험에서는 경험적 튜닝에 의존하고 있어 자동 파라미터 조정 메커니즘이 필요하다. 셋째, 강준볼록성 가정이 실제 머신러닝 모델에 얼마나 일반적인지는 추가 실증 연구가 요구된다.

향후 연구 방향으로는 (i) 고확률 수렴 보강, (ii) 적응형 µ·t 스케줄링, (iii) 비정규화된 비선형 제약(예: 신경망 구조 제한)으로의 확장, (iv) 다중 에이전트·분산 환경에서의 ZO 구현 등이 제시될 수 있다. 전반적으로 이 논문은 제로오더 최적화가 구조적 비볼록성(준볼록성)을 활용해 이론적·실험적으로 강력한 성능을 발휘할 수 있음을 최초로 체계화한 점에서 중요한 기여를 한다.