전역 탐색과 로컬 가속을 결합한 적응형 하이브리드 최적화 전략 Squads

초록

본 논문은 전역 탐색에 강한 Adaptive Particle Swarm Optimization(APSO)과 로컬 수렴이 빠른 Levenberg‑Marquardt(LM) 알고리즘을 적응형 규칙으로 연계한 하이브리드 최적화 기법 ‘Squads’를 제안한다. Rosenbrock·Griewank 테스트 함수와 합성 수문학 모델에 적용해 전통적인 LM, PSO, APSO, hPSO와 비교했을 때 전역 최적점 탐색 성공률(robustness)과 함수 평가 횟수(효율성) 모두에서 우수함을 확인하였다.

상세 분석

Squads는 전역 탐색을 담당하는 APSO와 로컬 수렴을 담당하는 LM을 동적으로 결합한 하이브리드 프레임워크이다. APSO는 기존 PSO의 파라미터 튜닝 문제를 해소하기 위해 ‘TRIBES’ 구조를 채택하고, 입자들을 ‘tribe’라는 계층적 그룹으로 조직한다. 각 tribe는 내부에서 최적값을 가진 ‘shaman’ 입자를 선정하고, shaman 간에도 전역 최적 shaman을 공유함으로써 탐색과 수렴 사이의 균형을 자동으로 조절한다.

Squads의 핵심 혁신은 ‘adaptive rules’에 있다. 매 반복마다 각 tribe의 성능(최근 이동에서 개선된 입자 비율)을 평가하고, 일정 확률 기준을 초과하면 ‘good tribe’로 판단해 최악 입자를 제거한다. 반대로 성능이 저조하면 새로운 입자를 추가하거나 무작위 재배치를 수행해 탐색 폭을 확대한다. 또한, 전체 swarm이 ‘bad swarm’으로 판정될 경우(최근 LM 적용 후 2/3 이상 OF 감소가 없을 때) LM을 적용할 shaman을 선택한다. LM은 선택된 shaman 입자에 대해 Levenberg‑Marquardt 단계(1차·2차 미분 정보를 활용)로 위치를 미세 조정하고, 조정된 입자는 다시 APSO 단계에 반환된다. 이 과정은 LM이 전역 탐색에 과도하게 의존하지 않으면서도, 로컬 영역에서 급속히 수렴하도록 만든다.

알고리즘 흐름은 Figure 1에 요약되어 있다. 초기 swarm은 10 + 2√D개의 mono‑particle tribe로 시작하거나, 단일 tribe에서 시작해 적응적으로 성장한다. 입자 초기화는 사용자 지정, 무작위, 혹은 현재 최적 위치 주변의 hyper‑parallelepiped 등 여러 규칙 중 상황에 맞게 선택된다. 입자 이동은 기본 PSO식(관성·인지·사회적 가중치)과 LM 업데이트를 교번 적용함으로써, 탐색 단계와 수렴 단계가 자연스럽게 교차한다.

성능 평가는 두 차원(robustness, efficiency)으로 이루어진다. robustness는 전역 최적점을 찾은 실행 비율이며, efficiency는 전역 최적점 도달까지 요구된 함수 평가 횟수의 통계적 분포(평균·표준편차)로 측정한다. Rosenbrock 2D·5D·10D와 Griewank 2D·5D·10D 테스트에서 Squads는 LM이나 순수 PSO 대비 평균 함수 평가 횟수를 30 %~60 % 절감하면서도 성공률을 95 % 이상 유지했다. 특히 다차원(10D) Griewank와 같이 다중 국소 최소점이 풍부한 경우, 전통적인 PSO는 종종 지역 최소점에 머무르지만 Squads는 APSO의 탐색력과 LM의 급속 수렴을 결합해 전역 최소점에 도달했다.

수문학 응용 사례에서는 오염원 위치 추정 문제를 다루었다. 모델 시뮬레이션이 1 ~ 2 시간 정도 소요되는 상황에서, Squads는 평균 1,200 회의 함수 평가로 전역 최적을 찾았으며, 이는 기존 hPSO(≈2,800 회)와 LM(≈4,500 회) 대비 크게 감소한 수치이다. 또한, 초기 파라미터 추정이 크게 틀린 경우에도 90 % 이상의 성공률을 보이며, 실무 적용 가능성을 입증했다.

전반적으로 Squads는 파라미터 튜닝 부담을 최소화하고, 전역 탐색과 로컬 수렴을 동적으로 조절하는 적응 메커니즘을 통해 복잡하고 계산비용이 높은 물리 모델의 역문제 해결에 강력한 도구가 될 수 있음을 보여준다. 다만, LM 단계에서 요구되는 1차·2차 미분 계산이 모델에 따라 비용이 크게 달라질 수 있으며, 매우 고차원(>50D) 문제에서는 tribe 관리와 LM 적용 빈도가 증가해 메모리·연산 부하가 상승할 가능성이 있다. 향후 연구에서는 자동 차원 축소와 병렬 LM 구현을 결합해 초고차원 문제에 대한 확장성을 검증할 필요가 있다.