비볼록 최소화 문제를 위한 정준 프라임 듀얼 알고리즘

초록

본 논문은 정준 이중성 이론을 기반으로 비볼록 최소화 문제를 볼록‑볼록 사다리꼴 최적화 형태로 변환하고, 이를 2차 교란 프라임‑듀얼 방법으로 해결한다. 기존 SDP 완화와 비교해 전역 최적 해를 더 효율적으로 찾을 수 있음을 수치 실험을 통해 보여준다.

상세 분석

본 연구는 비볼록 목적함수 W(x) 를 V(Λ(x)) 라는 형태로 표현할 수 있다는 가정(A1)을 전제로 한다. 여기서 Λ(x) 는 다차원 2차 형태의 기하학적 연산자이며, V(·) 는 엄격히 볼록하고 미분 가능하다고 가정한다(A2). 이러한 정준 변환을 통해 원래의 비볼록 문제 (P₀) 는 라그랑주 쌍대 함수 Ξ(x,σ) 를 이용한 볼록‑볼록 사다리꼴(min‑max) 문제 (SP) 로 재구성된다. 이때 σ 는 V 의 공액함수 V* 의 변수이며, G(σ)=A+∑σ_k A_k 와 τ(σ)=f+∑σ_k f_k 가 정의된다.

정준 이중성 이론에 따르면, σ가 S⁺ (양의 반정정 행렬 집합) 안에 존재하면 P_d(σ)=−½ τ(σ)ᵀ G†(σ) τ(σ)−V*(σ) 가 볼록‑볼록 구조를 갖는다. 정리 1은 σ가 P_d 의 임계점이면 x = G†(σ*) τ(σ*) 가 원문제 (P) 의 임계점이며, σ*∈S⁺이면 전역 최적 해가 일치함을 증명한다.

논문은 두 가지 경우를 구분한다. 첫 번째는 G(σ*) 가 양정(非특이)인 비퇴화 상황이다. 이때 정리 2와 명제 1을 통해 (SP) 는 SDP 형태로 변환 가능하고, 고유한 해가 존재함을 보인다. 두 번째는 G(σ*) 가 반정(특이)인 퇴화 상황이다. 정리 3은 퇴화 경우에도 σ* = ∇V(Λ(x*)) 가 존재하면 (x*,σ*) 가 사다리꼴의 안장점이 되고, 반대로 안장점이 존재하면 x* 가 원문제의 해가 됨을 보여준다. 즉, 비볼록 문제의 해 집합은 비볼록하지만, 사다리꼴 안장점 집합은 볼록하게 변환된다.

알고리즘 측면에서 저자는 2차 교란(primal‑dual) 기법을 도입한다. 구체적으로는 Ξ(x,σ) 에 (ρ/2)‖x−x_k‖² 와 (ρ/2)‖σ−σ_k‖² 와 같은 정규화 항을 추가해 매 반복마다 볼록‑볼록 서브문제를 풀고, 교란 파라미터 ρ 를 점진적으로 감소시켜 원문제에 수렴한다. 이 과정은 기존 Gauss‑Newton, Proximal, SDP 완화보다 메모리와 연산량 면에서 효율적이며, 특히 대규모 센서 네트워크 위치추정 문제에서 좋은 성능을 보인다.

수치 실험에서는 (i) 2차 형태의 비볼록 함수와 선형 제약을 가진 합성 문제, (ii) 유클리드 거리 기반 센서 네트워크 최적화, (iii) SDP와 비교한 전역 최적값 복원 사례를 제시한다. 실험 결과는 제안된 프라임‑듀얼 방법이 SDP보다 빠른 수렴 속도와 더 정확한 목표값을 제공함을 확인한다. 다만, 교란 파라미터 선택과 초기값에 따라 수렴성에 민감할 수 있다는 제한점도 언급한다.

전반적으로 이 논문은 정준 이중성 이론을 실용적인 프라임‑듀얼 프레임워크와 결합해 비볼록 최적화 문제를 체계적으로 다루는 새로운 접근법을 제시한다. 이론적 정당성(정리 1‑3)과 알고리즘 구현, 그리고 실험적 검증이 잘 조화되어 있어, 비볼록 전역 최적화 분야 특히 대규모 물리·공학 시스템에 적용 가능성이 높다.