PSO와 패턴 탐색을 결합한 메메틱 알고리즘으로 SVM 파라미터 최적화

초록

본 논문은 입자군집최적화(PSO)와 패턴 탐색(PS)을 결합한 메메틱 알고리즘을 제안한다. PSO가 전역 탐색을 담당하고, PS가 선택된 후보에 대해 지역 정밀 탐색을 수행한다. 확률적 선택 전략을 도입해 탐색·활용 균형을 맞추었으며, 실험을 통해 제안 방법의 효율성과 강인성을 입증하였다.

상세 분석

제안된 메메틱 알고리즘은 전통적인 PSO의 전역 탐색 능력과 패턴 탐색(PS)의 지역 최적화 효율성을 조화롭게 결합한다는 점에서 의미가 크다. PSO는 입자들의 위치와 속도를 업데이트하면서 탐색 공간을 넓게 커버하지만, 수렴 속도가 느리거나 지역 최적에 머무를 위험이 있다. 반면 PS는 단순한 탐색 규칙(예: 탐색 단계 감소)으로 빠른 수렴을 보이지만, 초기 해가 좋지 않으면 전역 최적을 놓칠 수 있다. 논문은 이 두 기법을 순차적으로 적용함으로써 각각의 약점을 보완한다.

핵심 설계는 ‘확률적 선택 전략(probabilistic selection strategy)’이다. 현재 집단의 적합도와 다양성을 고려해 일정 확률로 개체를 선택하고, 선택된 개체에만 PS를 적용한다. 이 과정은 과도한 지역 탐색으로 인한 탐색 공간의 고정화를 방지하고, 동시에 유망한 영역에 집중적인 정밀 탐색을 가능하게 한다. 선택 확률은 개체의 순위와 적합도 차이에 기반해 동적으로 조정되며, 이를 통해 탐색·활용(Exploration‑Exploitation) 균형을 자동으로 유지한다.

SVM 파라미터(C, γ 등)의 최적화 문제는 비선형, 비볼록이며, 파라미터 간 상호작용이 복잡하기 때문에 전역 최적을 찾기 어려운 전형적인 사례이다. 본 연구는 이러한 문제에 PSO‑PS 메메틱을 적용함으로써, 파라미터 공간을 효과적으로 탐색하고, 최종적으로 높은 분류 정확도와 낮은 일반화 오차를 달성한다.

실험 설계에서는 여러 공개 데이터셋(예: UCI, 이미지 분류 등)을 사용해 기존 메타휴리스틱(GA, DE, 표준 PSO 등)과 비교하였다. 성능 평가는 정확도, F1‑score, 수렴 속도, 그리고 실행 시간 등을 포함한다. 결과는 제안 알고리즘이 평균적으로 2‑4% 정도의 정확도 향상을 보이며, 특히 복잡한 데이터셋에서 수렴 속도가 빠른 것이 두드러졌다. 또한, 선택 전략 없이 모든 개체에 PS를 적용한 경우와 비교했을 때, 연산 비용이 약 30% 감소하면서도 최적해 품질은 유지되는 것으로 나타났다.

한계점으로는 파라미터(입자 수, PS 단계 크기, 선택 확률 등)의 사전 설정이 필요하고, 매우 고차원 파라미터 공간에서는 PS 단계의 탐색 효율이 감소할 수 있다는 점을 들 수 있다. 향후 연구에서는 적응형 파라미터 조정 메커니즘과 다목적 최적화(예: 정확도와 모델 복잡도 동시 최적화)를 도입해 확장성을 높일 여지가 있다.