좌표 하강 기반 LMI 알고리즘의 한계와 강력한 수렴성을 갖는 최적화 대안

초록

본 논문은 비선형·비볼록 최적화 문제를 좌표 하강형 반복 LMI(CDILMI) 방식으로 해결하려 할 때 발생하는 부분 최적해와 수렴성 부재 문제를 지적하고, 이보다 이론적·실제적 수렴 보장을 제공하는 그래디언트 기반 비매끄러운 최적화(HIFOO, hinfstruct)와 파생‑프리 탐색(DFO, MADS 등) 방법들을 제시한다. 실제 예제에서 CDILMI가 경계 해에 머무는 반면, 제시된 대안들은 더 낮은 H∞ 성능을 달성함을 실험적으로 보여준다.

상세 분석

논문은 최근 시스템·제어 분야에서 비볼록 문제를 LMI 혹은 BMI 형태로 변환한 뒤, 변수 집합을 두 부분으로 나누어 교대로 고정하고 LMI 최적화를 수행하는 좌표 하강형 반복 LMI(CDILMI) 알고리즘이 널리 사용되고 있음을 지적한다. 이러한 방식은 목표 함수값이 단조 비증가한다는 약한 보장만 제공하며, 실제로는 “부분 최적해(partial optimal)”에 머무르는 경우가 대부분이다. 즉, 각각의 변수 서브셋에 대해서는 최적이지만 전체 변수 공간에서는 국소 최적이 아니다. 저자는 이 현상이 BMI 문제의 비선형 구조와 경계(예: 양성 제약)에서 특히 두드러진다고 설명한다.

수렴성을 확보하기 위한 대안으로 두 가지 큰 축을 제시한다. 첫 번째는 비매끄러운 최적화에 특화된 그래디언트 기반 방법이다. HIFOO는 초기 단계에서 BFGS를 사용하고, 이후 무작위 그래디언트 샘플링과 번들 기법을 결합해 Clarke 서브미분을 활용한다. hinfstruct는 Clarke 서브미분의 확장 집합을 이용해 현재 점에서의 2차 접선 모델을 구성하고, 이를 통해 보다 빠른 수렴을 보인다. 두 방법 모두 비매끄러운 H∞ 노름, 스펙트럴 어브시시 등에서 이론적 수렴 보장을 제공한다.

두 번째 대안은 파생‑프리 최적화(DFO)이다. 저자는 다방향 탐색(MDS)과 메쉬 적응 직접 탐색(MADS) 등 최신 DFO 기법이 비매끄러운 BMI 문제에서도 수렴성을 확보할 수 있음을 문헌(예: Torczon, Audet‑Dennis 등)과 함께 정리한다. 특히 MADS는 제한조건이 있는 경우에도 Clarke 방향 미분이 비음이 되는 점을 점근적으로 밀집시켜 수렴을 보장한다. 논문은 이러한 DFO 기법이 구현이 간단하고 초기 탐색 단계에서 유용하며, 경우에 따라 HIFOO·hinfstruct보다도 경쟁력 있는 성능을 보인다고 주장한다.

실험에서는