컴팩트 유전 알고리즘 수렴 분석을 위한 마코프 과정과 미분 방정식 모델

초록

본 논문은 메모리 사용량이 적은 추정분포 알고리즘인 컴팩트 유전 알고리즘(cGA)을 마코프 과정으로 모델링하고, 그 동역학을 연속 미분 방정식(ODE)으로 근사한다. 도출된 ODE가 지역 최적점에 수렴하고 그곳에 머무른다는 수학적 증명을 통해 cGA가 최적화 문제의 지역 최적점으로 수렴함을 이론적으로 확립한다.

상세 분석

cGA는 전통적인 교배·돌연변이 연산자를 사용하지 않고, 부모 집단의 확률 모델을 직접 추정하여 자식 개체를 생성한다는 점에서 메모리 효율성이 뛰어나다. 그러나 확률 모델이 시간에 따라 어떻게 변하는지에 대한 정량적 이해가 부족했으며, 이는 알고리즘의 수렴 특성을 예측하기 어렵게 만들었다. 논문은 이러한 공백을 메우기 위해 cGA의 상태를 이산 확률 벡터(각 비트 위치별 1의 확률)로 정의하고, 이 벡터의 변화를 마코프 체인으로 기술한다. 마코프 체인의 전이 확률은 두 개의 샘플을 무작위로 선택하고, 더 나은 샘플의 비트를 기준으로 확률을 업데이트하는 cGA의 핵심 메커니즘을 정확히 반영한다.

연속 근사를 위해 저자들은 큰 인구 크기(또는 작은 학습률) 가정 하에 마코프 체인의 기대 변화를 미분 형태로 전환한다. 구체적으로, 각 비트 i에 대한 확률 p_i(t)의 시간 미분 dp_i/dt는 현재 p_i와 목표 함수의 적합도 차이에 비례하는 항으로 표현된다. 이 ODE는 비선형이지만, Lyapunov 함수와 고정점 분석을 통해 모든 해가 제한된 구간