대규모 전역 최적화 문제를 위한 대리모델 기반 변수 그룹화 알고리즘

초록

본 논문은 협동 진화( Cooperative Coevolution, CC)에서 핵심인 문제 분해를 위해, 변수 최적값이 다른 변수에 영향을 받는지를 판단하는 일반적인 분리성 기준을 제시하고, 이를 대리모델( surrogate model)로 보완하여 적은 평가 비용으로 정확한 변수 그룹화를 수행하는 SVG 알고리즘을 개발하였다. 실험 결과, 2000 차원까지의 다양한 베치마크에서 기존 6개 최신 분해 기법보다 넓은 적용 범위와 경쟁력 있는 효율성을 보였다.

상세 분석

SVG는 기존 학습 기반 분해 기법이 갖는 두 가지 근본적인 한계를 극복한다. 첫째, 기존 DG·DG2·RDG 등은 “덧셈적 분리성”에만 적용 가능했으며, 비덧셈적 상호작용을 놓치기 쉬웠다. SVG는 “일반적 분리성” 정의에 기반한 새로운 검출 기준을 도입한다. 구체적으로, 변수 x_i 의 전역 최적값이 다른 변수 x_j 를 교란해도 변하지 않는지를 확인함으로써, 변수 i 와 j 가 서로 독립적인지 판단한다. 이 기준은 최적값 자체를 한 번만 찾으면 되므로, 변수 i 가 진정으로 분리 가능하면 이후 최적화 과정에서 재검증이 필요 없다는 큰 장점을 가진다.

둘째, 전역 최적값 탐색 자체가 고차원 비용 함수 호출을 요구하는데, 이를 직접 수행하면 평가 비용이 급증한다. SVG는 이를 “단일 차원 고비용 최적화” 문제로 전환하고, 두 단계 다항식 회귀 기반 대리모델을 구축한다. 첫 번째 레이어는 제한된 샘플로 전역 형태를 추정하고, 두 번째 레이어는 그 추정된 형태를 미세 조정하여 실제 최적값에 근접하도록 한다. 이렇게 하면 몇 번의 실제 함수 평가만으로도 충분히 정확한 최적값을 얻을 수 있다.

또한, 변수 그룹화를 이진 트리 탐색 구조로 전환한다. 트리의 각 노드는 현재까지 확인된 변수 집합을 나타내며, 분리성 검증 결과를 재활용해 불필요한 중복 검사를 방지한다. 트리 탐색은 동적으로 진행되며, 새로운 검증이 필요할 때마다 기존 노드의 정보를 활용해 탐색 범위를 축소한다. 이 설계는 전체 검증 횟수를 O(log n) 수준으로 낮추어, 대규모 차원에서도 실용적인 실행 시간을 보장한다.

실험에서는 30, 50, 100, 500, 1000, 2000 차원의 함수들을 포함한 30여 개 베치마크를 사용했다. 이들 중에는 완전 분리형, 부분 분리형, 비덧셈적 상호작용을 포함한 복합형이 고루 섞여 있다. SVG는 동일한 평가 예산 하에서 다른 6개 최신 분해 알고리즘(예: DG2, RDG, VIL, EVIID 등)보다 평균적으로 더 높은 분해 정확도와 CC 전체 최적화 성능을 달성했다. 특히 비덧셈적 상호작용을 포함한 함수에서 VIL이 과도한 평가 비용으로 인해 성능이 급락하는 반면, SVG는 대리모델 덕분에 평가 횟수를 크게 절감하면서도 정확한 그룹화를 유지했다.

한계점으로는 대리모델 구축 시 초기 샘플링 전략이 문제 특성에 따라 민감하게 작용할 수 있다는 점이다. 또한, 다항식 대리모델이 비선형 복잡도가 매우 높은 경우 근사 오차가 누적될 위험이 있다. 향후 연구에서는 적응형 샘플링 및 보다 강력한 비선형 대리모델(예: 가우시안 프로세스, 신경망)과의 결합을 탐색할 필요가 있다.

요약하면, SVG는 일반적 분리성 검증 기준, 비용 효율적인 대리모델 기반 최적값 탐색, 그리고 동적 이진 트리 구조를 결합함으로써, 대규모 전역 최적화 문제에서 기존 학습 기반 분해 기법이 갖는 적용 범위 제한과 평가 비용 문제를 효과적으로 해결한다.