동적 최적화 문제를 위한 성별 유전 알고리즘

초록

본 논문은 인구를 남성·여성 두 서브팝으로 나누어 각각 다른 변이·선택 전략을 적용하고, 베일드윈 효과를 통한 학습 메커니즘을 결합한 성별 유전 알고리즘(GGA)을 제안한다. 실험에서는 동적 라스트리진 함수와 그 변동형을 대상으로 기존 GA, 라마크형 학습 GA 등과 비교했으며, 제안 알고리즘이 빠른 환경 변화에 대한 적응력과 최적 해 탐색 능력에서 우수함을 확인하였다. 특히 산불 진화 모델에의 적용 가능성을 제시한다.

상세 분석

본 연구는 기존 유전 알고리즘(GA)의 조기 수렴과 다양성 감소 문제를 해결하고자 ‘성별’이라는 생물학적 메타포를 도입하였다. 인구를 남성(M)과 여성(F) 두 집단으로 구분하고, 남성 집단에 대해서는 높은 변이율과 비례 선택을, 여성 집단에 대해서는 낮은 변이율과 무작위 선택을 적용한다. 이는 남성 집단이 급격히 탐색(exploration) 역할을 수행하고, 여성 집단이 현재 환경에 적합한 해를 보존(exploitation)하도록 설계된 것이다.

알고리즘 흐름은 다음과 같다. 초기 인구를 실수 코딩으로 생성한 뒤, 확률 gp 에 따라 성별을 할당한다(gp < 0.5이면 남성, 아니면 여성). 교차는 실수형 산술 교차(가중 평균)와 λ ∈ (0,1) 파라미터를 이용해 수행한다. 변이는 가우시안 분포를 따르는 작은 벡터 r 을 더하는 방식이며, 변이 확률은 시간 t 에 따라 지수적으로 감소한다(식 7, 8).

베일드윈 효과는 개체 수준 학습으로 구현되었으며, 1‑스텝 뉴턴‑라프슨(식 6)을 이용해 각 개체의 표현형을 즉시 개선한다. 학습된 표현형은 적합도 평가에 사용되지만, 유전자는 그대로 유지한다는 점에서 ‘다윈적’ 특성을 유지한다. 라마크형 학습과 비교했을 때, 베일드윈형은 유전적 변이를 보존하면서도 학습 효과를 적절히 반영해 전체 수렴 속도를 높인다.

실험에서는 시간‑의존 라스트리진 함수 f_R 와 그에 대한 가우시안 형태의 변동 g(t, x, y) 을 사용하였다. 파라미터 λ (환경 변화 속도)를 변화시켜 알고리즘의 적응 한계를 탐색했으며, BGGA(베일드윈 효과를 포함한 GGA)는 λ = 8.0에서 최초로 ‘추적 전환(bifurcation)’을 보이며, 동일 조건의 라마크형 GA(LGGA)와 전통 GA는 λ ≈ 9.0~10.0에서야 전환이 일어났다. 이는 BGGA가 변이·선택 압력을 보다 세밀히 조절함으로써 환경 변화에 더 빠르게 반응한다는 증거이다.

하지만 몇 가지 한계도 존재한다. 첫째, 남·여 변이율 감소 파라미터 fa, ma 가 고정값(55.4, 57.3)으로 설정돼 있어 다양한 문제에 대한 일반화 가능성이 제한된다. 둘째, 실험에 사용된 함수는 2차원 연속형 문제에 국한돼 있어 고차원·이산형 문제에 대한 성능 검증이 부족하다. 셋째, ‘성별 선택’이라는 메타포가 실제 생물학적 성 선택 메커니즘과는 차이가 크며, 남성·여성 집단 간 교배가 전혀 없다는 점은 실제 유전적 재조합 효과를 충분히 활용하지 못한다는 비판을 받을 수 있다.

전반적으로 본 논문은 성별 구분과 베일드윈 학습을 결합한 새로운 하이브리드 GA 프레임워크를 제시했으며, 동적 최적화 상황에서 탐색·활용 균형을 조절하는 실용적인 방법을 제공한다. 향후 연구에서는 파라미터 자동 튜닝, 다중 성별(예: 다중 서브팝) 확장, 그리고 실제 산불 시뮬레이션 모델과의 연계 실험이 필요하다.