노이즈 환경에서 중위값 샘플링이 진화 알고리즘을 구원한다

초록

본 논문은 진화 알고리즘에 평균 대신 중위값을 이용한 샘플링을 적용하고, OneMax 문제를 대상으로 한비트 노이즈 및 두 가지 특수 노이즈 모델에서 이 방법의 이론적 우수성을 입증한다. 중위값 샘플링은 평균 샘플링보다 노이즈에 대한 강인성이 높아, 특정 조건에서는 기대 실행 시간이 지수적으로 감소한다.

상세 분석

진화 알고리즘(EA)은 실세계 최적화에서 평가값에 잡음이 섞이는 경우가 빈번히 발생한다. 기존 연구에서는 잡음 감소를 위해 동일 해를 m번 평가하고 평균값을 사용한 “평균 샘플링”이 주로 다루어졌으며, 샘플 크기 m이 충분히 크면 잡음의 분산을 m배 감소시켜 기대 실행 시간을 다항식 수준으로 유지할 수 있음을 보였다. 그러나 평균은 외부값(아웃라이어)에 매우 민감해, 잡음 분포가 비대칭이거나 극단값을 포함할 때는 오히려 성능을 악화시킬 위험이 있다.

이 논문은 이러한 한계를 보완하고자 “중위값 샘플링”(median sampling)을 제안한다. 중위값은 50% 이상의 샘플이 변형될 때만 값이 크게 변하므로, 평균보다 “붕괴점(breakdown point)”이 0.5로 높다. 논문은 (1+1)-EA가 OneMax 문제를 풀 때, 한비트 노이즈 모델(확률 p로 무작위 비트를 뒤바꾸는 잡음) 하에서 m = 2n/3 + 1개의 샘플을 사용하면 중위값이 실제 적합도와 거의 일치함을 보였다(레마 1). 이를 기반으로 드리프트 이론을 적용해 기대 실행 시간이 Θ(n log n) 수준의 다항식으로 제한됨을 증명하였다(정리 2). 이는 기존 평균 샘플링이 p = O(log n / n) 이하에서만 다항식 보장을 제공하던 것과 비교해 훨씬 넓은 잡음 구간에 대해 강인함을 보여준다.

또한 두 특수 잡음 모델을 통해 중위값 샘플링의 한계도 탐구한다. 첫 번째는 “세분화 잡음(segmented noise)”으로, 잡음에 의해 발생하는 적합도 값의 2-분위수(중위값)가 진정 적합도와 단조 증가 관계에 있을 때 중위값 샘플링이 평균 샘플링보다 실행 시간이 다항식으로 유지된다. 반대로 두 번째는 “부분 잡음(partial noise)”으로, 2-분위수가 진정 적합도와 반비례하거나 변동이 큰 경우 중위값 샘플링이 오히려 실패하고 평균 샘플링이 더 나은 성능을 보인다. 이러한 결과는 중위값 샘플링이 “2-분위수가 적합도와 같은 방향으로 움직이는” 상황에서 특히 유리함을 시사한다.

기술적 기여는 다음과 같다. (1) 중위값 샘플링에 대한 정확한 확률적 분석을 제공하고, Hoeffding 부등식을 이용해 고확률 하에 중위값이 실제 적합도와 일치함을 보였다. (2) 드리프트 분석을 통해 중위값 샘플링이 한비트 잡음 전 범위에서 기대 실행 시간을 다항식으로 제한함을 증명했다. (3) 2-분위수의 단조성 여부에 따라 평균·중위값 샘플링의 상대적 효율성을 구분하는 두 개의 잡음 모델을 제시했다. 이론적 결과는 실무에서 잡음 특성을 사전에 파악하고, 적절한 샘플링 전략을 선택하는 가이드라인을 제공한다.