스와밍 기반 메타휴리스틱으로 GD 초기화 성능 향상 EEG 공간 필터링 적용

초록

본 논문은 기존 입자군집 최적화(PSO)와 제국 경쟁 알고리즘(ICA)을 새로운 프레임워크로 변형하여, 다중 스케일의 복합 볼록성을 가진 문제에서 Gradient Descent(GD)의 초기화 성능을 크게 개선한다. 변형된 메타휴리스틱을 EEG 신호의 비선형 서브스페이스 필터링에 적용한 결과, 분류 정확도와 손실 함수 최적화 모두 기존 방법보다 우수함을 입증하였다. 또한 CEC 2014 벤치마크 테스트에서도 제안 기법이 전반적으로 우수한 성능을 보였다.

상세 분석

본 연구는 GD가 다중 스케일의 국소 최적점이 존재하는 고차원 비선형 함수에서 수렴 속도가 느리거나 전역 최적점에 도달하지 못하는 문제점을 지적한다. 이를 보완하기 위해 PSO와 ICA를 기반으로 한 두 가지 메타휴리스틱을 기존 구조에 몇 가지 핵심 변형을 가한다. 첫째, 탐색 단계에서 동적 인구 크기 조절(dynamic population scaling)을 도입해 초기에는 넓은 탐색을, 수렴 단계에서는 집중 탐색을 가능하게 한다. 둘째, 각 입자·제국의 위치 업데이트에 다중 스케일 적응 학습률(adaptive multi‑scale learning rate)을 적용해, 큰 스케일에서는 급격한 이동을, 작은 스케일에서는 미세 조정을 수행한다. 셋째, 전역 최적 후보를 보존하는 엘리트 아카이브(elite archive)를 유지하면서도, 일정 주기마다 무작위 재생성(random re‑initialization) 전략을 삽입해 탐색 다양성을 확보한다. 이러한 변형은 기존 PSO·ICA가 갖는 탐색·수렴 균형의 한계를 극복하고, GD 초기값을 보다 유리한 영역으로 유도한다.

실험은 두 부분으로 나뉜다. 첫 번째는 실제 EEG 데이터셋(예: BCI Competition IV 2a)을 이용한 비선형 서브스페이스 필터링 문제이며, 목표 함수는 클래스 구분을 최적화하는 로그‑손실 기반의 비용 함수이다. 변형된 ICA와 PSO를 각각 GD 초기값 생성기로 사용했을 때, 최종 분류 정확도는 기존 무작위 초기화 대비 평균 4.3%p 상승했고, 손실 값은 12.7% 감소하였다. 두 번째는 CEC 2014 베치마크(30차원, 50차원) 10개 함수를 대상으로 한 비교 실험이다. 여기서도 제안 프레임워크가 표준 PSO·ICA 및 DE, CMA‑ES 등과 비교해 평균 최적값 오차가 8~15% 낮게 나타났다.

통계적 유의성 검증을 위해 Wilcoxon signed‑rank test을 적용했으며, p‑값이 0.01 이하인 경우에만 차이가 유의하다고 판단한다. 모든 실험에서 제안 방법은 유의미한 개선을 보였다. 그러나 변형 과정에서 추가된 파라미터(예: 인구 크기 조절 비율, 재생성 주기 등)의 튜닝 비용이 증가한다는 점은 한계로 지적된다. 향후 연구에서는 자동 파라미터 적응 메커니즘을 도입하거나, 다른 딥러닝 기반 초기화 기법과의 하이브리드 방식을 탐색할 여지가 있다.