불확실성 하에서 접선볼록 차함수 최적화 문제

초록

본 논문은 데이터 불확실성을 고려한 비부드럽고 비볼록한 최적화 문제 중에서도, 목적함수가 두 개의 접선볼록 함수의 차(difference of tangentially convex, DTC) 형태로 표현될 수 있는 경우를 연구한다. 이를 위해 특정 최대함수에 대한 프레셰(Subdifferential)와 제한(Subdifferential) 서브디퍼런셜 사이의 관계를 접선 서브디퍼런셜 개념을 이용해 정리하는 비부드러운 미적분 규칙들을 전개한다. 이어서, 이러한 DTC 함수들을 포함하는 최적화 문제에 대해 접선 서브디퍼런셜 기반의 일반화된 제약 자격조건을 도입하고, 이에 기반한 최적성 조건을 도출한다. 마지막으로, 제시된 이론의 적용 가능성을 보여 주기 위해 몇 가지 예시를 제시한다.

상세 요약

이 연구는 최근 최적화 이론에서 크게 주목받고 있는 ‘불확실성 하의 강인 최적화(robust optimization)’와 ‘비볼록 비부드러운 함수의 차(difference of non‑smooth convex functions)’라는 두 축을 동시에 결합한다는 점에서 학문적 의의가 크다. 기존 문헌에서는 차함수 차분(difference‑of‑convex, DC) 구조를 활용해 서브그라디언트 기반 알고리즘을 설계하거나, 강인 최적화에서는 주로 볼록 혹은 선형 불확실성 집합을 가정해 보수적인 해를 구했다. 그러나 접선볼록(tangentially convex)이라는 개념은 볼록성보다 약하지만 여전히 유용한 구조적 특성을 제공한다. 즉, 함수가 어느 방향에 대해서는 볼록성을 유지하지만 전체적으로는 비볼록일 수 있다는 점에서, 더 넓은 함수 클래스를 포괄한다.

논문은 먼저 ‘특정 최대함수’—예컨대 ( \phi(x)=\max{f_1(x),\dots,f_m(x)} )—에 대해 프레셰 서브디퍼런셜과 제한 서브디퍼런셜을 접선 서브디퍼런셜과 연결시키는 미적분 규칙을 구축한다. 이 과정에서 접선 서브디퍼런셜이 기존의 프레셰 서브디퍼런셜보다 더 미세한 정보를 제공함을 보이며, 두 서브디퍼런셜 사이의 포함 관계와 등호 조건을 명시한다. 이러한 결과는 차함수 형태 (h(x)=g_1(x)-g_2(x))에서 각각의 (g_i)가 접선볼록일 때, 전체 목적함수 (h)의 서브디퍼런셜을 효율적으로 계산할 수 있게 해준다.

다음 단계에서는 일반화된 제약 자격조건(generalized constraint qualifications, GCQ)을 접선 서브디퍼런셜 프레임워크 안에 도입한다. 전통적인 MFCQ나 CRCQ와 달리, GCQ는 비볼록 제약식과 비부드러운 목적식이 동시에 존재할 때도 적용 가능하도록 설계되었다. 이를 통해 KKT‑type 최적성 조건을 도출하고, 그 조건이 강인 최적화 문제의 ‘최악의 경우( worst‑case )’ 시나리오에서도 만족함을 증명한다.

실제 적용 예시에서는 (1) 불확실한 파라미터가 다항식 형태로 나타나는 구조 설계 문제, (2) 데이터 노이즈가 구간형 불확실성 집합으로 모델링된 회귀 문제, (3) 로봇 경로 계획에서 장애물의 위치가 확률적이면서도 비볼록적인 제약을 형성하는 경우 등을 다룬다. 각 예시마다 서브디퍼런셜 계산 과정을 상세히 보여 주어, 제안된 이론이 실제 알고리즘 구현에 바로 활용될 수 있음을 입증한다.

전체적으로 본 논문은 (i) 접선볼록 함수에 대한 새로운 미적분 도구를 제공하고, (ii) 이를 기반으로 강인 비볼록 최적화의 최적성 이론을 확장했으며, (iii) 구체적인 사례를 통해 실용성을 검증했다는 점에서, 향후 비부드러운 비볼록 최적화와 강인 설계 분야의 연구에 중요한 토대를 제공한다. 향후 연구 과제로는 (1) 제시된 GCQ를 완화한 보다 약한 자격조건의 탐색, (2) 대규모 문제에 적용 가능한 서브그라디언트 기반 수치 알고리즘 개발, (3) 확률적 불확실성 모델과의 통합 등이 있다.