프라임‑듀얼 그래디언트 흐름의 전역 지수 안정성

본 논문은 강한 볼록성 및 Lipschitz 연속 그라디언트를 갖는 부드러운 목적함수와, 적절히 정의된 비부드러운 정규화항을 포함하는 복합 최적화 문제에 대해, 프로시멀 증강 라그랑지안을 이용한 프라임‑듀얼 그래디언트 흐름 동역학이 전역적으로 지수적으로 수렴함을 새로운 2차 Lyapunov 함수와 시간 영역 IQC 기법을 통해 증명한다. 또한 제시된 Lyapunov 함수는 기존 결과보다 보수적이지 않은 수렴 속도 하한을 제공한다.

저자: Dongsheng Ding, Mihailo R. Jovanovic

프라임‑듀얼 그래디언트 흐름의 전역 지수 안정성
본 논문은 선형 평등 제약을 갖는 비부드러운 복합 최적화 문제에 대해, 프로시멀 증강 라그랑지안을 기반으로 한 프라임‑듀얼 그래디언트 흐름(gradient flow) 동역학의 전역 지수 안정성을 새로운 Lyapunov 기반 접근법으로 증명한다. 1. **문제 설정 및 가정** - 최적화 문제는 목적함수 f(x)+g(z)와 제약 Tx‑z=0으로 정의된다. - f는 m_f‑강한 볼록성 및 L_f‑Lipschitz 연속 그라디언트를 만족하고, g는 proper, lower‑semi‑continuous, convex 특성을 가진 비부드러운 함수이다. - 제약 행렬 T∈ℝ^{m×n}은 전 행이 독립적인 전 행렬(Full row rank)이다. 2. **프로시멀 증강 라그랑지안** - g의 프로시멀 연산자 prox_{μg}와 Moreau envelope M_{μg}를 도입한다. - 증강 라그랑지안 L(x,z;y)=f(x)+g(z)+yᵀ(Tx‑z)+½μ‖Tx‑z‖²를 완전제곱 형태로 변형하고, z에 대해 최소화한 뒤 얻은 L_μ(x;y)=f(x)+M_{μg}(Tx+μy)−½μ‖y‖²는 x와 y에 대해 연속적으로 미분 가능하다. 3. **프라임‑듀얼 그래디언트 흐름 동역학** - 동역학은 w=

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기