효율적 대각선 분할과 다중 리프시츠 상수 기반 전역 탐색

초록

본 논문은 리프시츠 상수가 알려지지 않은 다차원 블랙박스 함수의 전역 최적화를 위해, 0부터 무한대까지의 가능한 상수 집합을 동시에 고려하는 새로운 알고리즘을 제안한다. 효율적인 대각선 분할 전략과 지역·전역 정보를 균형 있게 활용하는 기법, 그리고 하한값 추정 절차를 결합하여 1600여 개 테스트 함수에서 기존 방법들을 능가하는 성능을 입증하였다.

상세 분석

이 연구는 전역 최적화 분야에서 가장 오래된 난제 중 하나인 “리프시츠 상수 미지” 문제에 대한 실용적인 해결책을 제시한다. 전통적인 Lipschitz 기반 알고리즘은 상수를 사전에 추정하거나 고정값을 사용해 탐색 효율이 크게 좌우되었지만, 본 논문은 “가능한 모든 상수”를 하나의 연속적인 집합으로 다루어, 각 하이퍼인터벌에 대해 최적의 상수를 동적으로 선택한다는 혁신적인 아이디어를 도입한다. 이를 위해 저자는 먼저 대각선 분할(diagonal partition) 방식을 채택한다. 기존의 축분할 방식과 달리 대각선 분할은 하이퍼큐브의 대각선 양 끝점에서 함수값을 평가함으로써, 동일한 분할 수에서 더 넓은 영역의 정보를 획득한다. 이때 각 하이퍼인터벌은 두 대각선 꼭짓점의 함수값과 거리 정보를 이용해, 주어진 상수 L에 대한 하한값을 계산한다.

핵심은 “다중 L 집합”을 활용한 하한값 계산이다. 저자는 L을 0에서 ∞까지 연속적으로 변화시키는 대신, 로그 스케일로 균등하게 배치된 유한 개수의 후보값들을 선택하고, 각 후보에 대해 하한값을 동시에 구한다. 이렇게 하면 특정 L에 대한 과소평가 위험을 최소화하면서도, 전체 탐색 과정에서 가장 타당한 L를 자동으로 추정한다. 또한, 지역 정보와 전역 정보를 균형 있게 반영하기 위해 “균형 파라미터”를 도입한다. 이 파라미터는 현재 하이퍼인터벌의 크기와 함수값 차이를 기반으로, 지역 탐색에 더 집중할지, 전역적인 탐색을 확대할지를 결정한다. 결과적으로 알고리즘은 초기 단계에서는 넓은 영역을 빠르게 스캔하고, 최적점에 근접할수록 세밀한 지역 탐색으로 전환한다.

새로운 하한값 추정 절차는 기존의 “보수적 하한” 방식보다 훨씬 정확하다. 저자는 각 하이퍼인터벌에 대해 L별 하한값을 모두 계산한 뒤, 그 중 최댓값을 해당 구간의 최종 하한으로 채택한다. 이는 “최악의 경우”를 고려하면서도, 실제 함수의 기울기에 맞는 가장 큰 하한을 제공한다는 점에서 이론적 보장을 갖는다.

실험에서는 1600개 이상의 다차원 테스트 함수(차원 210, 다양한 복잡도와 다중극값 구조)를 사용했으며, 비교 대상은 DIRECT, LIPO, 그리고 최신 변형인 CMA‑ES 기반 방법들이다. 결과는 제안 알고리즘이 평균적인 함수평가 횟수와 수렴 속도에서 현저히 우수함을 보여준다. 특히, 고차원(≥8차원) 문제에서 기존 방법이 지역 최적에 머무르는 반면, 본 알고리즘은 전역 최적점에 도달하는 비율이 3040% 이상 높았다.

이 논문의 기여는 세 가지로 요약될 수 있다. 첫째, 리프시츠 상수의 불확실성을 다중 후보 집합으로 전환함으로써, 상수 추정 오류를 근본적으로 해소했다. 둘째, 대각선 분할과 하한값 동시 계산을 결합한 효율적인 탐색 프레임워크를 구축했다. 셋째, 지역·전역 정보 균형 조절 메커니즘을 통해 탐색 효율성을 단계적으로 최적화했다. 이러한 접근은 이론적 엄밀함과 실용적 성능을 동시에 만족시키며, 향후 블랙박스 최적화, 머신러닝 하이퍼파라미터 튜닝, 엔지니어링 설계 등 다양한 분야에 적용 가능성을 시사한다.