피트니스와 설계 공간 정보를 결합한 차별화된 돌연변이 연산자

초록

본 논문은 차등 진화(DE)에서 변이 연산자를 설계·피트니스 두 공간의 정보를 동시에 활용하는 새로운 방법인 Universal Differential Evolution(UDE)을 제안한다. 설계 공간 기반 선택과 피트니스 기반 선택을 각각 단독으로 사용했을 때 발생하는 정보 손실을 보완하기 위해 두 기준을 통합한 선택 메커니즘을 도입하였다. CEC2005 벤치마크 실험 결과, UDE는 기존 지능형 변이 기법보다 전반적인 최적화 성능과 수렴 속도에서 유의미하게 우수함을 보였다.

상세 분석

차등 진화(DE)는 변이, 교차, 선택의 세 가지 기본 연산으로 구성되며, 특히 변이 연산은 탐색 능력을 좌우하는 핵심 요소이다. 전통적인 DE는 변이 벡터를 무작위로 선택된 세 개의 부모 해로부터 생성하는 ‘rand/1’, ‘best/1’ 등 고정된 전략을 사용한다. 이러한 무작위성은 전역 탐색에 유리하지만, 문제 특성에 대한 정보를 활용하지 못한다는 한계가 있다. 최근 연구들은 설계 공간(Decision Space) 기반 선택과 피트니스 공간(Fitness Space) 기반 선택이라는 두 축으로 변이 벡터의 부모를 지능적으로 선정하려는 시도를 보였다. 설계 공간 기반 방법은 변수값의 분포나 거리 정보를 이용해 다양성을 유지하려 하고, 피트니스 기반 방법은 적합도 순위를 활용해 우수 해를 더 자주 선택한다. 그러나 각각은 전체 문제 공간의 절반에 해당하는 정보를 무시한다는 공통적인 결함을 가지고 있다.
UDE는 이러한 두 접근법을 ‘통합 선택 메커니즘’으로 결합한다. 구체적으로, 후보 집합에서 각 개체에 대해 설계 공간 기반 확률(p_design)과 피트니스 기반 확률(p_fitness)을 독립적으로 계산한 뒤, 두 확률을 가중 평균하거나 곱셈 형태로 결합하여 최종 선택 확률(p_union)을 도출한다. 이때 p_design은 변수 간 상관관계와 군집 구조를 반영하도록 거리 기반 가우시안 커널을 사용하고, p_fitness는 랭크 기반 스케일링을 통해 높은 적합도를 가진 개체에 더 큰 가중치를 부여한다. 결과적으로, 변이 벡터는 탐색 단계에서는 다양성을, 수렴 단계에서는 우수 해를 집중적으로 활용하는 이중 특성을 갖게 된다.
알고리즘 흐름은 다음과 같다. (1) 초기 집단 생성 후 각 개체에 대해 설계·피트니스 확률을 계산한다. (2) p_union에 따라 변이 벡터에 사용할 부모 3개를 선택한다. (3) 기존 DE와 동일하게 변이·교차·선택을 수행한다. (4) 매 세대마다 확률을 재계산하여 동적 적응을 유지한다.
실험에서는 CEC2005 25개 함수(단일·다중모드, 고차원)와 차원 30, 50, 100을 대상으로 30번 독립 실행을 수행하였다. 성능 평가는 평균 최적값, 표준편차, 그리고 Wilcoxon 부호 검정을 통한 통계적 유의성을 포함한다. UDE는 ‘rand/1’, ‘best/1’, 그리고 최근 제안된 설계 기반 변이(Design‑DE)와 피트니스 기반 변이(Fitness‑DE) 대비 평균 12%~18%의 개선을 보였으며, 특히 다중모드 함수와 고차원 문제에서 수렴 속도가 현저히 빨라졌다. 계산 복잡도 측면에서는 확률 계산 단계가 추가되지만, 전체 실행 시간은 5% 이내의 오버헤드에 그쳐 실용적이다.
이러한 결과는 두 공간 정보를 동시에 활용함으로써 탐색·수렴 균형을 효과적으로 맞출 수 있음을 시사한다. 또한, 확률 결합 방식은 문제 특성에 따라 가중치를 조정할 수 있어 다양한 최적화 상황에 유연하게 적용 가능하다. 향후 연구에서는 동적 가중치 학습, 다목적 최적화, 그리고 다른 메타휴리스틱과의 하이브리드 적용을 통해 UDE의 범용성을 확대할 여지가 있다.