푸시 GP로 최적화 알고리즘 자동 설계

초록

푸시 GP를 이용해 연속형 문제에 대한 로컬·집단 기반 최적화 알고리즘을 자동으로 진화시켰다. 단일 함수의 변형된 랜드스케이프에서 학습하고, 더 큰 차원과 다른 CEC 2005 벤치마크에 적용해 일반성을 검증하였다. 진화된 최적화기는 기존 CMA‑ES·DE 대비 경쟁력 있는 성능을 보이며, 기존 알고리즘에 없는 새로운 탐색 전략을 보여준다.

상세 분석

본 논문은 최적화 알고리즘 설계라는 메타문제에 대해 푸시(Push)라는 튜링 완전 언어와 푸시 GP(Push GP) 프레임워크를 활용한다. 푸시 언어는 타입별 스택과 실행 스택을 제공해 프로그램이 실행 중에도 상태를 유지하도록 설계돼, 진화된 최적화기가 복잡한 내부 메모리 구조를 스스로 구축할 수 있다. 로컬 최적화와 집단 기반 최적화를 동일한 원시 명령어 집합에서 진화시키기 위해 벡터 타입을 추가하고, vector.current·vector.best 같은 협업 연산자를 도입해 개체 간 정보 공유를 가능하게 했다.

학습 단계에서는 CEC 2005 벤치마크 중 5개의 10차 함수(F1, F9, F12, F13, F14)를 선택하고, 각 차원에 무작위 이동·스케일·축 뒤집기 변환을 적용해 과적합을 방지한다. 평가 예산은 1 000 FE이며, 한 번의 푸시 프로그램 호출이 하나의 탐색 움직임을 수행하도록 설계돼 외부 루프가 예산이 소진될 때까지 반복한다. 이렇게 얻은 최적화기는 25회 독립 실행 후 평균 최적값을 피트니스로 사용한다.

실험 결과, 인구 규모와 세대 수의 트레이드오프(예: 50×20, 25×40, 5×200, 1×1000)마다 성능 차이가 크게 나타났으며, 특히 작은 인구·많은 세대 조합이 복잡한 다중모달 함수에서 강인한 탐색 능력을 보였다. 진화된 알고리즘은 G‑CMA‑ES와 DE와 비교했을 때 동일하거나 더 낮은 평균 오류를 기록했으며, 특히 F9·F13·F14와 같은 고다중모달·비선형 함수에서 눈에 띄는 우위를 보였다.

분석을 통해 발견된 새로운 전략으로는 (1) 동적 스텝 크기 조절을 위한 벡터 연산의 반복적 적용, (2) 개체 간 베스트 포인트 공유를 통한 간접적인 군집 행동, (3) 조건부 이동(성공/실패 플래그에 따라 다른 연산 선택) 등이 있다. 이러한 전략은 기존 메타휴리스틱 설계에서 흔히 볼 수 없는 형태이며, 푸시 GP가 설계 공간을 자유롭게 탐색함으로써 비전통적이면서도 효율적인 탐색 메커니즘을 자동으로 발견할 수 있음을 시사한다.