분산 최적화를 위한 프라임‑듀얼 알고리즘: 소산성 기반 관점

초록

본 논문은 가중치‑불균형 유향 그래프 위에서 비볼록 로컬 비용 함수를 갖는 분산 최적화 문제를 풀기 위한 연속시간 프라임‑듀얼 알고리즘을 제시한다. 알고리즘을 라우레(Lur’e) 형태의 시스템으로 분해하고, 선형 부분이 적절한 공급율에 대해 소산성을, 비선형 그래디언트 피드백은 수동성이 아님을 보인다. 알고리즘 이득이나 그래프 설계를 적절히 선택하면 전체 시스템이 지수적으로 수렴함을 증명한다.

상세 분석

이 논문은 분산 최적화 알고리즘을 동적 시스템 관점에서 재해석함으로써 기존의 라플라시안 기반 수렴 분석을 확장한다. 핵심 아이디어는 연속시간 프라임‑듀얼 알고리즘을 라우레 시스템으로 모델링하는 것이다. 여기서 선형 서브시스템은 그래프 라플라시안 L_G와 알고리즘 이득(α,β,γ)으로 정의되며, 비선형 서브시스템은 각 에이전트의 로컬 비용 함수 f_i의 그래디언트 차이 Δ(·)로 표현된다.

선형 서브시스템은 공급율 s(u,y)=uᵀy−ρ(L_G)·‖y_⊥‖² 형태에 대해 소산성을 만족한다는 것이 증명된다. 이때 ρ(L_G)는 가중치‑불균형 그래프의 일반화된 대수적 연결성으로, 라플라시안의 비대칭성을 보정하기 위해 왼쪽 고유벡터 r을 이용해 정의된 행렬 ˜L=R L_G+L_Gᵀ R(R=diag{r})를 사용한다.

비선형 서브시스템 Δ는 전역 비용 ˜f이 μ‑강하게 볼록함을 가정함으로써 ⟨y, RΔ(y)⟩≥μ²‖ȳ‖²−(l²/μ)‖y_⊥‖²와 같은 부정적 하한을 갖는다. 여기서 l은 로컬 그래디언트의 Lipschitz 상수이며, R은 r을 이용한 가중치 행렬이다. 비선형 피드백이 수동성이 아니므로 단순한 패시비티 기반 분석으로는 수렴을 보장할 수 없으며, 대신 두 서브시스템의 상호 연결을 통해 전체 시스템의 에너지 감소를 보여준다.

저자는 저장함수 V=½ ηᵀPη (η=