대규모 집합형 볼록 프로그램을 위한 분산 알고리즘

초록

본 논문은 선형 목적함수와 어파인·이차 부등식 제약을 갖는 대규모 집합형 볼록 최적화를 분산 환경에서 해결하기 위한 알고리즘을 제시한다. 전역 합의를 단일 공통 변수로 두어 제약을 여러 블록으로 분할하고, 슬랙 변수를 도입해 모든 부등식을 등식 형태로 변환한다. 증강 라그랑지안, 블록 좌표 가우스‑시델, 이중 근접항을 갖는 근접점 방법 및 ADMM을 결합해 원시·슬랙 변수를 업데이트하고, 제한된 구간 내에서 이중 근접항을 이용해 이중 변수(라그랑지 승수)를 갱신한다. 수렴성을 증명하고, 가정된 실현 가능성 하에서 수렴 속도를 O(1/√k) 로 추정한다.

상세 분석

논문은 먼저 문제를 “집합형 볼록 프로그래밍”이라 정의하고, 목적함수 f(Z) 를 선형, 제약 집합 C 를 어파인 등식·부등식과 이차 형태의 부등식으로 구성한다. C 를 N 개의 서브셋 C_i 로 분할하고, 각 서브셋은 공통 변수 Z 와의 일치를 강제하는 합의 제약 X_i−Z=0 으로 연결한다. 실현 가능성 확보를 위해 X_i−Z≤0·Z−X_i≤0 형태의 부등식으로 변형하고, 다시 모든 부등식을 슬랙 변수 p, n 형태의 등식으로 전환한다. 이렇게 하면 원래의 복합 제약이 각 블록 내부에서 독립적으로 처리될 수 있다.

알고리즘 핵심은 증강 라그랑지안 L 을 구성하고, 각 블록 i 에 대해 L_i 를 정의한 뒤, 블록 좌표 가우스‑시델 방식으로 원시 변수 X_i,l 을 순차적으로 최소화한다. 여기서 두 종류의 근접항 ‑‖X_i,l−X_i,l^k‖_1 와 ‑‖X_i,l−X_i,l^k‖_2^2 를 동시에 도입해 수치적 안정성과 수렴성을 강화한다. 슬랙 변수와 라그랑지 승수 역시 각각 별도의 근접항을 포함한 최소화 문제로 업데이트되며, 이는 ADMM 형태의 교대 최적화와 동일한 구조를 가진다.

이중 변수 업데이트는 제한 구간