복합 최적화를 위한 지역 모델과 전역 근사 결합 프레임워크

초록

본 논문은 비볼록·비매끄러운 복합 최적화 문제를 다루기 위해 전역 근사와 지역 모델을 동시에 활용하는 이중 루프 알고리즘을 제안한다. 전역 근사는 문제를 근사화된 형태( hν , Fν , fν⁰ , Xν )로 바꾸고, 각 근사 문제에 대해 선형화된 지역 모델을 이용해 볼록 마스터 문제를 반복적으로 해결한다. 근사 문제의 거의 정지점이 실제 문제의 정지점으로 수렴함을 증명하고, 구현 가능한 여러 알고리즘 변형을 제시한다.

상세 분석

이 논문은 복합 최적화 문제 ( \min_{x\in X} f^{0}(x)+h(F(x)) ) 에 대해 두 차원의 근사 전략을 체계화한다. 첫 번째 차원은 전역 근사로, 원래의 비볼록·비매끄러운 함수 (h)와 매핑 (F)를 각각 (h^{\nu},F^{\nu}) 라는 볼록·하한 연속 함수와 매끄러운 매핑으로 교체하고, 목적 함수 (f^{0})와 제약 집합 (X)도 각각 (f^{\nu}_{0},X^{\nu}) 로 근사한다. 이렇게 정의된 근사 문제 (P^{\nu})는 계산적으로 더 다루기 쉬운 구조를 갖는다. 논문은 (P^{\nu}) 의 거의 정지점(즉, 서브그라디언트가 작은 점)들의 군집점이 원 문제 (P) 의 정지점이 됨을, 적절한 정규성(예: 에피컨버전스, 클라크 정규성) 가정 하에 엄밀히 증명한다. 이는 전역 근사의 정확도가 증가할수록( (\nu\to\infty) ) 최적해에 수렴한다는 강력한 보장을 제공한다.

두 번째 차원은 각 근사 문제 (P^{\nu}) 에 대한 지역 모델링이다. 저자들은 (F^{\nu}) 를 1차 테일러 전개로 선형화하고, (h^{\nu}) 에 대해서는 다양한 볼록 상한 모델(예: 선형화, 차분볼록, 합성 형태)을 구축한다. 이렇게 얻어진 지역 모델은 볼록·제곱형 정규화 항 (\frac{1}{2t_{k}}|x-x^{\nu}{k}|^{2}) 와 결합되어 마스터 문제 (M^{\nu}{k}) 를 형성한다. 이 마스터 문제는 전형적인 볼록 최적화 문제이며, 기존 상용 솔버로 직접 해결 가능하다.

알고리즘 구조는 외부 루프(전역 근사 인덱스 (\nu))와 내부 루프(지역 모델 인덱스 (k))가 교차하면서 진행된다. 내부 루프는 마스터 문제를 반복적으로 풀어 (x^{\nu}_{k}) 를 개선하고, 일정 기준(예: 서브그라디언트 크기, 목표 함수 감소) 이하가 되면 외부 루프로 전환한다. 논문은 이중 루프가 전역 수렴성을 유지하면서도 각 단계에서 계산 복잡도를 크게 낮춘다는 점을 강조한다.

특히, 기존 문헌에서 다루던 제약이 없는 순수 볼록 (h) 또는 두 번 매끄러운 (F) 가정들을 완화한다. 여기서는 (h) 가 확장 실값(무한값 포함)일 수 있고, (F) 는 단 한 번 매끄러움만 요구한다. 또한 (h^{\nu}) 가 자체적으로 복합 형태 (h^{\nu}_{0}\circ H^{\nu}) 일 경우에도 해당 구조를 그대로 활용할 수 있도록 모델링 기법을 확장한다. 이는 제약 함수가 무한값을 갖는 비선형 제약을 자연스럽게 포함시킬 수 있음을 의미한다.

알고리즘 구현 측면에서 저자들은 세 가지 구체적 설정을 제시한다. 첫 번째는 (h^{\nu}) 가 단순 볼록 함수이고 (F^{\nu}) 가 매끄러운 경우; 두 번째는 (h^{\nu}) 가 차분볼록(d.c.) 형태이며 (F^{\nu}) 가 매끄러운 경우; 세 번째는 (h^{\nu}) 가 거리 제곱 (\operatorname{dist}^{2}(\cdot, C)) 와 비볼록 투영 연산을 포함하는 경우이다. 각각에 대해 마스터 문제의 구체적 형태와 필요한 서브그라디언트 계산법을 표로 정리하고, 알고리즘 2·3·4 로 명시한다.

수학적 기여는 (1) 전역 근사와 지역 모델을 동시에 고려한 통합 프레임워크, (2) 거의 정지점의 군집점 수렴 정리, (3) 볼록 마스터 문제를 통한 구현 가능성, (4) 다양한 복합 구조에 대한 일반화된 모델링 기법이다. 실용적인 측면에서는 신뢰성 설계, 위험 관리, 에너지 저장 등 실제 엔지니어링 문제에 바로 적용 가능한 구조를 제공한다는 점이 돋보인다.