GPU 병렬성으로 진화 알고리즘 성능을 재구성한다

초록

본 논문은 16가지 진화 알고리즘을 30개의 벤치마크 문제에 대해 CPU와 GPU에서 실행하여, 단순 속도 향상을 넘어 GPU 병렬성이 알고리즘의 수렴·다양성·평가 방식에 미치는 영향을 체계적으로 분석한다. 고정 예산(FE) 기반 평가가 GPU 환경에서는 한계가 있음을 보여주고, 고정 시간 평가가 새로운 성능 특성을 드러낸다. 또한 문제 차원과 개체군 규모에 따른 스케일링 구간을 규명하고, GPU가 허용하는 대규모 개체군이 알고리즘 고유의 동역학을 드러내는 것을 확인한다.

상세 분석

본 연구는 GPU 병렬성이 진화 알고리즘(EA)에 미치는 영향을 다차원적으로 탐구한다. 먼저 16개의 대표적인 단일·다목적 EA(PSO, DE, GA, CMA‑ES, NSGA‑II, MOEA/D 등)를 선정하고, 각각을 CPU와 최신 NVIDIA GPU에서 실행하였다. 실험 변수는 문제 차원(10‒1,000)과 개체군 크기(32‒8,192)이며, 각 조합에 대해 30회 독립 실행을 수행해 통계적 신뢰성을 확보하였다.

속도 측면에서, 알고리즘마다 가속 비율이 크게 달랐으며, 이는 연산 밀도와 메모리 접근 패턴, 전역 동기화 필요성 등에 기인한다. 예를 들어, 변이·교차 연산이 독립적인 GA와 DE는 30배 이상의 가속을 보였지만, 비지배 정렬이 핵심인 NSGA‑II는 정렬 단계에서 전역 감소 연산이 병목이 되어 5배 이하에 머물렀다.

평가 방식에 있어서는 전통적인 고정 FE(함수 평가 횟수) 예산이 GPU 환경에서는 실제 수행 시간에 비해 과소 평가되는 문제가 드러났다. 고정 시간(예: 1시간) 평가를 도입하면, 대규모 개체군을 활용한 알고리즘이 초기 탐색 단계에서 더 넓은 영역을 커버하고, 수렴 속도가 늦지만 최종 해의 품질이 향상되는 현상이 관찰되었다. 특히 적응형 파라미터 조정이 포함된 SaDE와 J‑ADE는 작은 FE 예산에서는 성능 차이가 미미했으나, 시간 제한 하에서는 파라미터 스스로 최적화되며 GPU의 대규모 병렬성을 충분히 활용했다.

스케일링 분석에서는 세 가지 구역을 정의했다. (1) 이득 구역: 차원·개체군이 증가함에 따라 가속 비율이 지속적으로 상승하는 구간으로, 연산량이 충분히 많아 GPU 코어 활용도가 80 % 이상에 달한다. (2) 포화 구역: 메모리 대역폭 한계와 전역 동기화 비용이 지배적으로 작용해 가속이 정체되는 구간이다. 여기서는 특히 고차원(>500)에서 작은 개체군을 사용하는 알고리즘이 포화에 빠진다. (3) 역효과 구역: 과도한 개체군(>4,096)이나 차원(>1,000)에서 전송 오버헤드와 스레드 스케줄링 비용이 증가해 CPU 대비 성능이 저하된다.

마지막으로, GPU가 허용하는 대규모 개체군은 알고리즘 고유의 수렴·다양성 동역학을 새로운 시각에서 관찰하게 한다. 예를 들어, IPOP‑CMA‑ES는 개체군이 2배 증가할 때 수렴 속도는 크게 변하지 않지만, 최종 해의 다양성이 향상되어 다중 최적점 탐색에 유리함을 확인했다. 이러한 현상은 CPU 제한 하에서는 관측되지 않았으며, 설계 단계에서 개체군 규모를 중요한 설계 변수로 고려해야 함을 시사한다.