적응형 동적 캣 스웜 최적화를 이용한 분수 차수 그레이 모델 파라미터 추정

초록

본 논문은 적응형 동적 캣 스웜 최적화(ADCSO)를 활용해 분수 차수 그레이 모델의 핵심 파라미터를 추정하고, 이를 통해 예측 정확도와 수렴 속도를 향상시키는 방법을 제시한다. 실험은 무후항 항만 컨테이너 처리량과 절강성 해양 어획량 데이터를 이용했으며, ADCSO가 기존 PSO와 최소제곱법(LSM)보다 지역 최적에 빠지지 않고 더 낮은 오류를 달성함을 확인하였다.

상세 분석

본 연구는 두 가지 핵심 요소, 즉 분수 차수 그레이 모델(Fractional Order Grey Model, FO‑GM)과 적응형 동적 캣 스웜 최적화(Adaptive Dynamic Cat Swarm Optimization, ADCSO)를 결합함으로써 파라미터 추정 문제에 새로운 접근을 시도한다. FO‑GM은 전통적인 1‑차 그레이 모델에 비해 메모리 효과와 비선형성을 보다 정밀하게 포착할 수 있는 장점이 있다. 그러나 모델의 정확도는 주로 초기 조건, 발전 계수(a), 제어 계수(b), 그리고 분수 차수(α)와 같은 파라미터에 크게 의존한다. 기존에는 최소제곱법(LSM)이나 입자 군집 최적화(PSO)와 같은 전통적인 최적화 기법을 사용했지만, 이들 방법은 탐색 공간이 고차원일 때 지역 최적에 머무르거나 수렴 속도가 느려지는 문제가 있었다.

ADCSO는 캣 스웜 최적화(CSO)의 기본 구조에 적응형 동적 메커니즘을 추가한 알고리즘이다. 캣 스웜은 ‘추적 모드’와 ‘정지 모드’라는 두 가지 행동 패턴을 갖으며, 각각은 탐색(exploitation)과 탐색(exploration) 역할을 수행한다. 본 논문에서는 개체의 속도와 위치 업데이트에 시간에 따라 변화하는 적응 파라미터를 도입해, 초기 탐색 단계에서는 넓은 범위의 탐색을, 후반부에서는 미세 조정을 가능하게 하였다. 이러한 동적 조정은 특히 비선형 및 비정상 시계열 데이터에 대해 전역 최적을 찾는 확률을 크게 높인다.

실험 결과는 두 개의 실제 데이터셋을 통해 검증되었다. 첫 번째는 무후항 항만의 컨테이너 처리량(월별)이며, 두 번째는 절강성의 해양 어획량(연도별)이다. 각각에 대해 FO‑GM의 파라미터를 ADCSO, PSO, LSM으로 추정한 뒤 1‑step 및 3‑step 예측 오차(RMSE, MAPE)를 비교하였다. ADCSO는 LSM에 비해 평균 RMSE를 약 18 % 감소시켰으며, PSO 대비 약 12 % 개선하였다. 또한 수렴 곡선을 살펴보면 ADCSO는 30 세대 이내에 최적값에 근접했지만, PSO는 70 세대 이상이 필요했고, 종종 진동을 보이며 최적값에 도달하지 못했다. 이는 ADCSO가 탐색·정착 균형을 효과적으로 조절함을 의미한다.

한편, 알고리즘 복잡도 측면에서는 ADCSO가 PSO와 비슷한 수준의 연산량을 요구하지만, 파라미터 튜닝이 비교적 간단하다. 논문에서는 적응 계수와 탐색 비율을 경험적으로 설정했으며, 민감도 분석 결과 이 두 파라미터가 수렴 속도와 최종 오류에 큰 영향을 미치지 않음이 확인되었다. 따라서 실무 적용 시 별도의 복잡한 파라미터 최적화 과정이 필요 없다는 장점이 있다.

종합하면, 본 연구는 FO‑GM의 파라미터 추정에 ADCSO를 적용함으로써 기존 방법 대비 전역 탐색 능력과 수렴 효율성을 동시에 확보하였다. 특히 비선형·비정상 시계열 데이터에 강인한 예측 성능을 보여, 물류, 해양 자원 관리 등 다양한 분야에 적용 가능성을 시사한다. 다만, 현재 실험은 두 개의 데이터셋에 국한되어 있어, 보다 다양한 도메인과 고차원 데이터에 대한 일반화 검증이 필요하다. 향후 연구에서는 ADCSO의 하이브리드 형태(예: GA와 결합)와 실시간 파라미터 업데이트 메커니즘을 도입해, 실시간 예측 시스템에 적용하는 방안을 모색할 수 있다.