진화 알고리즘 다양성 관리와 탐색 효율성

초록

본 논문은 진화 알고리즘(EA)에서 개체군 다양성이 탐색 성능에 미치는 영향을 분석하고, 건설적인 다양성을 유지하기 위한 카운터-니칭 기법을 제안한다. 제안 기법은 탐색되지 않거나 충분히 탐색되지 않은 영역을 목표로 하는 정보 기반 유전 연산자를 도입해 조기 수렴을 방지한다. GA 기반 구현을 통해 표준 벤치마크 함수에 대한 실험을 수행했으며, 기존 방법 대비 우수한 수렴 속도와 해의 품질을 확인하였다.

상세 요약

진화 알고리즘은 자연 선택과 변이를 모방해 전역 최적해를 탐색하지만, 개체군 내 다양성이 부족하면 지역 최적에 머무르는 조기 수렴 문제가 빈번히 발생한다. 다양성은 크게 두 축으로 구분할 수 있다. 첫째는 유전적 다양성으로, 개체들의 유전 정보가 서로 얼마나 다른가를 의미한다. 둘째는 표현형 다양성으로, 탐색 공간에서 개체들이 차지하는 위치 분포를 말한다. 기존 연구들은 다양성 유지 메커니즘으로 잡음 삽입, 적응적 변이율 조절, 다중 집단 구조 등을 제안했지만, 이들 방법은 종종 탐색 효율을 저해하거나 파라미터 튜닝에 과도하게 의존한다는 한계를 가진다.

본 논문이 제시하는 카운터-니칭(Counter‑Niching) 기법은 이러한 한계를 극복하기 위해 두 가지 핵심 아이디어를 결합한다. 첫 번째는 탐색 공간의 지역적 밀도 정보를 실시간으로 추정하는 것이다. 개체군을 일정 간격으로 클러스터링하고, 각 클러스터의 크기와 평균 적합도를 계산함으로써 “과포화된” 영역과 “미탐색 영역”을 구분한다. 두 번째는 정보 기반 유전 연산자를 적용하는데, 이는 과포화된 클러스터에서 선택된 부모에 대해 변이 확률을 높이고, 동시에 미탐색 영역으로의 이동 가능성을 높이는 방향으로 변이를 설계한다. 구체적으로, 변이 연산자는 목표 영역의 좌표를 추정한 뒤, 그 방향으로의 변이를 강화하는 ‘지향 변이(Directed Mutation)’와, 기존 변이 연산에 작은 가우시안 잡음을 추가하는 ‘보강 변이(Boosted Mutation)’를 혼합한다.

알고리즘 흐름은 다음과 같다. 초기 개체군을 무작위로 생성한 뒤, 매 세대마다 (1) 현재 개체군을 클러스터링하여 밀도와 적합도 지표를 산출하고, (2) 과포화 클러스터와 미탐색 클러스터를 식별한다. (3) 선택 단계에서는 과포화 클러스터에서 선택된 개체에 대해 높은 변이율을 적용하고, 미탐색 클러스터를 목표로 하는 변이 연산자를 적용한다. (4) 교차 연산은 기존 GA와 동일하게 수행한다. 마지막으로, 새로운 개체군을 평가하고, 비우수 개체는 교체한다.

실험에서는 대표적인 연속형 최적화 벤치마크인 Sphere, Rastrigin, Rosenbrock, Ackley, Griewank 등 5차원~30차원 문제를 사용하였다. 비교 대상은 표준 GA, 적응적 변이 GA, 그리고 최근 제안된 다중 집단 GA이다. 성능 평가는 평균 최적값, 표준편차, 그리고 수렴 횟수(Iteration to Reach 1e‑6)로 이루어졌다. 결과는 카운터-니칭 GA가 대부분의 테스트 함수에서 평균 최적값이 가장 낮고, 수렴 속도도 현저히 빠른 것을 보여준다. 특히 다중 피크를 가진 Rastrigin과 Ackley에서는 지역 최적에 빠지는 현상이 크게 감소하였다.

이러한 성과는 두 가지 메커니즘이 시너지 효과를 발휘했기 때문으로 해석된다. 첫째, 밀도 기반 탐색 방향 설정이 무작위 변이에 비해 목표 지점을 명확히 제시함으로써 탐색 효율을 높였다. 둘째, 과포화 영역에서 변이율을 인위적으로 증가시켜 다양성을 강제로 재생성함으로써 조기 수렴을 방지했다. 그러나 몇 가지 제한점도 존재한다. 클러스터링 비용이 개체군 규모가 커질수록 증가하며, 고차원 문제에서는 밀도 추정이 불안정해질 수 있다. 또한, 목표 영역을 과도하게 추정하면 탐색이 편향될 위험이 있다. 향후 연구에서는 클러스터링 알고리즘을 경량화하고, 밀도 추정에 확률적 모델(예: 커널 밀도 추정)을 도입해 고차원에서도 안정적인 다양성 관리가 가능하도록 할 필요가 있다.