유전 알고리즘 임계 제어 전략

초록

통계역학에서 영감을 얻은 임계 상태 개념을 이용해 변이 확률과 개체군 크기를 동적으로 조절하는 간단한 휴리스틱을 제안한다. 알고리즘이 최적화 과정에서 ‘임계점’ 근처를 유지하도록 설계함으로써 탐색과 활용의 균형을 자동으로 맞추고, 실험 결과 전통적인 고정 파라미터 방식보다 빠른 수렴과 높은 해 품질을 달성한다.

상세 분석

본 논문은 유전 알고리즘(GA)의 핵심 파라미터인 변이 확률(p_mut)과 개체군 크기(N)를 고정값으로 설정하는 전통적 접근법이 종종 탐색·활용 간의 불균형을 초래한다는 점을 지적한다. 통계역학에서 물리계가 임계점에서 보이는 급격한 상태 전이와 최대 엔트로피 현상을 차용해, GA도 ‘임계 상태’를 목표로 하면 최적화 효율이 극대화될 수 있다고 가정한다. 이를 위해 저자는 두 가지 주요 메트릭을 도입한다. 첫째, 집단 다양성(D)으로, 이는 유전적 거리의 평균 혹은 엔트로피 기반 지표로 측정된다. 둘째, 적합도 향상율(G)으로, 일정 세대 간 평균 적합도의 변화율을 의미한다. 논문은 D와 G가 동시에 감소하면 알고리즘이 정체 상태에 빠졌음을, D는 높고 G는 낮으면 과도한 탐색으로 인해 수렴이 지연됨을 의미한다는 가설을 세운다.

이 가설을 검증하기 위해 변이 확률과 개체군 크기를 실시간으로 조정하는 피드백 루프를 설계한다. 구체적으로, 현재 D가 목표 임계값(D_c)보다 낮으면 변이 확률을 상승시켜 다양성을 회복하고, D가 D_c보다 높으면 변이 확률을 감소시켜 과도한 무작위성을 억제한다. 동시에, G가 목표 임계값(G_c)보다 낮을 경우 개체군 크기를 확대해 탐색 공간을 넓히고, G가 G_c보다 높으면 개체군을 축소해 연산 비용을 절감한다. 이러한 조정은 각각의 세대마다 작은 비율(예: 5~10%)로 수행되어 급격한 파라미터 변동에 따른 불안정을 최소화한다.

실험 섹션에서는 2차원 라그랑주 함수, Rastrigin, Schwefel 등 다중모드 벤치마크와 실제 공학 설계 문제에 대해 제안된 휴리스틱을 적용하였다. 고정 파라미터 GA와 비교했을 때, 평균 수렴 세대 수는 3045% 감소했으며, 최종 최적해의 평균 적합도는 512% 향상되었다. 특히, 복잡한 다중모드 함수에서는 변이 확률이 자동으로 높은 값으로 조정되어 전역 탐색 능력이 크게 강화되었고, 수렴 단계에서는 급격히 감소해 정밀한 지역 탐색을 가능하게 했다.

또한, 논문은 제안된 방법이 파라미터 튜닝 비용을 크게 절감한다는 점을 강조한다. 기존에는 문제별로 최적의 변이 확률과 개체군 크기를 사전에 실험적으로 찾아야 했지만, 본 휴리스틱은 초기값을 대략적으로 설정한 뒤 자동으로 최적화 과정 중에 조정하므로 사전 실험 비용이 거의 필요하지 않다. 마지막으로, 임계점 근처에서의 동적 제어가 ‘자기조직화’ 현상을 촉진해 알고리즘이 외부 개입 없이도 스스로 효율적인 탐색·활용 균형을 찾아낸다는 이론적 의미를 제시한다.