다중 공분산 학습 연산자를 이용한 개선 교육 경쟁 최적화 알고리즘

초록

본 논문은 기존 교육 경쟁 최적화(ECO) 알고리즘의 탐색·활용 불균형과 지역 최적점 함정을 극복하기 위해, 세 가지 공분산 학습 연산자를 도입한 개선형 IECO‑MCO를 제안한다. CEC 2017·2022 벤치마크와 제약 최적화 사례에서 실험한 결과, 수렴 속도·안정성·전역 최적 탐색 능력에서 기존 ECO 및 다수의 최신 메타휴리스틱을 능가함을 통계 검증(Friedman, Kruskal‑Wallis, Wilcoxon)으로 확인하였다.

상세 요약

IECO‑MCO는 기존 교육 경쟁 최적화(ECO)의 구조적 한계를 정확히 진단하고, 이를 보완하기 위한 세 가지 공분산 학습 연산자를 설계하였다. 첫 번째 연산자는 개체 간 상관관계를 추정해 탐색 단계에서 방향성을 부여함으로써 전역 탐색 능력을 강화한다. 두 번째 연산자는 현재 최적 해와의 공분산을 이용해 지역 탐색을 집중시켜 활용 효율을 높이며, 세 번째 연산자는 동적 적응 메커니즘을 통해 탐색·활용 비율을 실시간으로 조절한다. 이러한 연산자는 각각 독립적으로 혹은 조합적으로 적용될 수 있어, 문제 특성에 따라 최적의 탐색·활용 균형을 자동으로 찾아낸다.

알고리즘 흐름은 초기 인구 생성 → 공분산 학습 연산자 선택(확률적) → 후보 해 생성 → 적합도 평가 → 선택·교차·돌연변이 → 공분산 업데이트 순으로 진행된다. 특히 공분산 행렬의 업데이트는 샘플링된 개체들의 변동성을 반영하도록 설계되어, 탐색 공간의 구조적 정보를 지속적으로 학습한다. 이는 기존 ECO가 단순히 경쟁·학습 메커니즘에 의존해 탐색 다양성이 감소하는 문제를 근본적으로 해결한다.

성능 평가에서는 CEC 2017(30개 함수)와 CEC 2022(10개 함수) 두 시험군을 사용했으며, 비교 대상에는 기본 ECO, GWO, PSO, SSA, 그리고 최근 제안된 변형 메타휴리스틱(예: HHO‑M, AOA‑M) 등이 포함되었다. 실험 결과, IECO‑MCO는 평균 최적값, 표준편차, 수렴 곡선에서 모든 비교 알고리즘을 앞섰다. 특히 다중모드 함수와 고차원(100차원) 문제에서 지역 최적에 빠지는 현상이 현저히 감소했으며, 이는 공분산 학습 연산자가 탐색 공간의 다중 피크 구조를 효과적으로 파악했기 때문이다.

통계적 검증으로는 Friedman 검정에서 IECO‑MCO가 가장 낮은 평균 순위를 기록했으며(CEC 2017 = 2.213, CEC 2022 = 2.488), 사후 검정(Nemenyi)에서도 유의미한 차이를 보였다. Kruskal‑Wallis와 Wilcoxon rank‑sum 검정 역시 p‑값이 0.01 이하로, 제안 알고리즘의 우수성이 통계적으로 확증되었다.

추가 실험으로는 압축 설계, 구조 최적화 등 실제 제약 조건이 포함된 문제에 IECO‑MCO를 적용하였다. 제약 위반을 처리하기 위해 페널티 함수와 복원 연산자를 결합했으며, 결과는 기존 제약 최적화 메타휴리스틱 대비 비용 함수 최소화와 제약 만족도 모두에서 우수하였다. 이는 IECO‑MCO가 복잡한 실세계 문제에서도 견고하게 작동함을 시사한다.

전반적으로 본 연구는 공분산 기반 학습 연산자를 메타휴리스틱에 통합함으로써 탐색·활용 균형을 동적으로 조절하고, 지역 최적 함정을 효과적으로 회피하는 새로운 설계 패러다임을 제시한다. 향후 연구에서는 연산자 선택 메커니즘을 강화학습 기반으로 전환하거나, 다목적 최적화에 확장하는 방안을 모색할 수 있다.