양측 얼굴 축소와 무조건 미분법 및 정확한 쌍대성

초록

본 논문은 일반적인 볼록 최적화 문제 f(x)+g(Ax) 에 대해 기존의 제약 조건(qualification condition) 없이도 정확한 Fenchel‑Rockafellar 쌍대, KKT 최적조건, 합과 연쇄 규칙 등을 성립시키는 새로운 기법을 제시한다. 핵심은 두 함수의 정의역을 동시에 포함하는 ‘공동 지지 아핀 부분공간( joint supporting subspace)’을 찾아, 그 부분공간에 제한함으로써 자동으로 제약 조건을 만족하도록 만드는 ‘양측 얼굴 축소(bilateral facial reduction)’이다. 이 방법은 기존 결과를 일반화하고, 경계 상황에서도 정확한 미분법과 쌍대성을 보장한다.

상세 분석

논문은 먼저 전통적인 볼록 분석에서 흔히 요구되는 ‘제약 조건’이 실제로는 두 함수 f 와 g 의 정의역이 서로의 상대 내부(relint)와 겹치지 않을 때 발생하는 경계 현상임을 지적한다. 이러한 상황에서는 Fenchel‑Rockafellar 쌍대가 강한 이중성을 잃고, 부분미분합 규칙이 실패하는 전형적인 반례가 존재한다(예: f(x)=−√x, g(x)=ι_{(−∞,0]}(x)). 저자는 이 문제를 해결하기 위해 두 정의역 C=dom f, D=dom g 의 교차점을 포함하면서도 두 집합을 동시에 ‘정규화’할 수 있는 최소 차원 아핀 부분공간 T_a(C,D) 를 정의한다. 이 부분공간은 ‘공동 지지 서브스페이스(joint supporting subspace)’라 불리며, 정의는
 T(C,D)=span F_{C−D}(0) 와 T_a(C,D)=T(C,D)+C∩D
이다. 여기서 F_{C−D}(0) 은 차집합 C−D 의 0을 포함하는 최소 얼굴을 의미한다.

핵심 정리는 T_a(C,D) 내에서는 언제나 ‘분리 불가능(separation failure)’이 성립한다는 것으로, 이는 곧 제약 조건이 자동으로 만족된다는 의미이다(정리 4.2). 따라서 원래 문제 f+g 를 f′=f+ι_{T_a} 와 g′=g+ι_{T_a} 로 바꾸면, 두 함수는 T_a 에 제한된 새로운 정의역을 갖게 되고, 기존의 합규칙, 연쇄규칙, Fenchel‑Rockafellar 쌍대 등이 무조건 성립한다.

또한 저자는 T_a(C,D) 를 구하는 여러 등가적 방법을 제시한다. 첫 번째는 C∩D 에 대한 최소 얼굴들을 이용한 표현
 T(C,D)=H_C(C∩D)+H_D(C∩D)
이며, 여기서 H_C(S)=span(F_C(S)−F_C(S)) 는 집합 S 에 의해 생성된 지지 서브스페이스이다. 두 번째는 ‘이중 얼굴 축소(bilateral facial reduction)’ 알고리즘으로, 임의의 교차점 x∈C∩D 에서 시작해 정상벡터 N_C(x) 와 −N_D(x) 를 교차시켜 차원 감소를 반복한다. 이 과정은 최대 n 단계(공간 차원) 안에 종료되며, 최종 얻어지는 부분공간이 바로 T(C,D) 임을 증명한다(정리 7.1, 부정리 4.4).

이러한 구조적 도구를 바탕으로 저자는 다음과 같은 주요 결과를 도출한다. ① 정확한 Fenchel‑Rockafellar 쌍대식이 항상 강한 이중성을 갖는다. ② KKT 최적조건이 f′, g′ 에 대해 무조건 성립하며, 원 문제와 동일한 최적해를 공유한다. ③ 합과 연쇄 규칙이 ∂(f+g)(x)=∂f′(x)+∂g′(x) 와 같이 정확히 유지된다. ④ 두 집합의 교차에 대한 법선 원뿔 N_{C∩D}(x) 이 N_C(x)+N_D(x) 으로 표현되는 새로운 법선 원뿔 공식이 얻어진다.

특히, 이론 전개는 ‘중첩 법선(nested normals)’이라는 새로운 개념을 도입한다. 중첩 법선은 한 얼굴의 법선 원뿔이 다른 얼굴의 법선 원뿔에 포함되는 구조를 의미하며, 이를 이용해 얼굴들의 사다리식(lattice) 구조를 귀납적으로 분석한다. 이 귀납적 접근은 기존의 ‘lexicographic face’ 이론을 일반화하면서도 보다 직관적인 기하학적 해석을 제공한다.

마지막으로, 저자는 기존의 ‘Facial Reduction’이 반정수계획, 반정수 반정규화 등에서 차원 축소와 수치적 안정성을 제공한 것과 유사하게, 본 일반화된 양측 얼굴 축소도 고차원 볼록 최적화 문제에서 차원 감소와 알고리즘적 이점을 기대할 수 있음을 언급한다.