거의 볼록 최적화와 연계된 볼록 모델의 이론적 고찰

초록

본 논문은 거의 볼록 목적함수와 거의 볼록 제약집합을 갖는 최적화 문제를, 하한 반연속(convex lower‑semicontinuous) 목적함수와 폐집합 제약을 가진 고유한 볼록 문제와 연결한다. 두 문제 사이의 해 집합 관계, 페르마 규칙 형태의 최적조건, 그리고 연관된 볼록 문제의 쿠흔‑터커(Kuhn‑Tucker) 조건을 이용한 라그랑주 승수 법칙을 제시한다. 또한 기존의 Ho식 거의 볼록 집합 개념과 Minty식 정의를 비교하고, 다양한 예시와 반례를 통해 이론의 한계와 적용 가능성을 설명한다.

상세 분석

논문은 먼저 Minty가 제시한 “거의 볼록 집합” 정의(Ω가 어떤 볼록 집합 C와 그 폐합 ¯C 사이에 존재한다는 조건)와 Ho가 제안한 점별 근접성 정의를 상세히 비교한다. 이를 통해 두 정의가 서로 독립적이며, 각각이 포함·배제 관계에 있지 않음을 여러 기하학적 예시(Ω₁~Ω₅)로 증명한다. 이후 거의 볼록 함수는 그 에피그래프가 거의 볼록 집합인 경우로 정의하고, 이러한 함수들의 유효 영역(dom f)과 에피그래프의 상대 내부(ri) 특성을 정리한다. 특히, Proposition 3.3은 ri(epi f) = {(x,λ) | x∈ri(dom f), λ>f(x)} 를 보여, 거의 볼록 함수의 에피그래프가 거의 볼록 집합임을 확인한다.

핵심 아이디어는 임의의 거의 볼록 최적화 문제

  min { f(x) | x∈D }

를 “연관된 볼록 문제”

  min { \bar f(x) | x∈\bar D }

와 연결하는 것이다. 여기서 \bar f는 f의 하한 반연속 폐포(lsc hull)이며, \bar D는 D의 폐집합 클로저이다. 이 변환은 유일성을 보장하고, \bar f는 진정한 볼록 함수가 아니라 하한 반연속(convex‑lsc) 함수이지만, 그 에피그래프는 폐집합이므로 전통적인 볼록 최적화 이론을 그대로 적용할 수 있다.

연관된 볼록 문제에 대해 페르마 규칙(Fermat’s rule)인 0∈∂\bar f(\bar x)+N(\bar x;\bar D) 를 적용하면, 원래 거의 볼록 문제의 최적점 \bar x에 대한 필요·충분 조건을 도출한다. 특히, 정상원(Normal cone) N(\bar x;Ω) 은 거의 볼록 집합에 대해 정의된 것이며, 교집합에 대한 합법칙(N(Ω₁∩Ω₂)=N(Ω₁)+N(Ω₂))이 Proposition 2.4에 의해 성립한다. 이를 이용해 기하학적 제약과 함수형 제약을 동시에 갖는 문제에 대한 라그랑주 승수 규칙을 유도한다. 구체적으로, 연관된 볼록 문제의 쿠흔‑터커 조건

  0∈∂\bar f(\bar x)+∑_{i}λ_i∂g_i(\bar x)+N(\bar x;C)

을 원래 문제에 역변환함으로써, 거의 볼록 목적함수와 거의 볼록 제약집합을 가진 경우에도 동일한 형태의 라그랑주 승수 존재를 보인다.

마지막으로, 예시와 반례를 통해 (1) 거의 볼록 최적화 문제의 해 집합이 반드시 거의 볼록이 아님을, (2) 특정 조건(예: ri(dom f)∩ri(D)≠∅) 하에서 해 집합이 거의 볼록이 될 수 있음을 보여준다. 또한, 기존 연구(