하이브리드 유전 최적화로 빠르고 견고한 파라메트릭 함수 학습

초록

HYGO는 전역 탐색을 담당하는 유전 알고리즘(또는 유전 프로그래밍)과 고속 국부 탐색을 위한 변형 다운힐 심플렉스 방법(DSM)을 교차 적용하는 두 단계 하이브리드 프레임워크이다. 파라메트릭 벤치마크와 비선형 동역학 제어(댐핑 랜다우 진동자), 그리고 RANS 기반 Ahmed 몸체 항력 감소 사례에서 기존 GA 대비 수렴 속도와 해의 견고성이 크게 향상됨을 보였다. 파이썬 구현으로 모듈화·확장성이 뛰어나 실험·시뮬레이션 환경에 바로 적용 가능하다.

상세 분석

본 논문은 고차원·다중극소점 문제에서 전통적인 진화 알고리즘이 보이는 수렴 지연과 지역 최적화 부족을 보완하기 위해, 전역 탐색을 담당하는 유전 알고리즘(GA) 혹은 유전 프로그래밍(GP)과 국부 탐색을 담당하는 다운힐 심플렉스 메서드(DSM)를 교대로 적용하는 하이브리드 구조인 HYGO를 제안한다. 핵심은 두 단계 전략으로, 첫 단계에서 인구 기반의 무작위 탐색을 통해 전역적인 탐색 공간을 넓히고, 일정 세대마다 혹은 수렴이 정체될 때 DSM을 호출해 현재 최우수 해를 고속으로 미세 조정한다. 특히 저자들은 고차원 심플렉스가 평면 붕괴(디제너시)되는 문제를 해결하기 위해 ‘디제너시 방지’ 메커니즘을 도입했으며, 이는 심플렉스가 축소되지 않고 전체 차원을 유지하도록 보정함으로써 국부 탐색의 안정성을 크게 높인다.

파라메트릭 최적화 실험에서는 Rastrigin, Ackley, Schwefel 등 표준 벤치마크 함수에서 기존 GA 대비 평균 수렴 횟수가 30~45% 감소하고, 최종 해의 품질이 통계적으로 유의하게 우수함을 확인했다. 함수 최적화(Functional) 측면에서는 선형 유전 프로그래밍(LGP)과 DSM을 결합해 댐핑 랜다우 진동자의 비선형 제어 정책을 자동 생성했으며, 제어 입력이 최소화된 상태에서 목표 진동을 효과적으로 억제하는 결과를 얻었다.

실제 공학 적용 사례로는 RANS 시뮬레이션 기반 Ahmed 몸체의 항력 감소 문제를 다루었다. 설계 변수는 후면 제트 흐름의 위치·세기·각도 등 12차원이며, 각 평가가 CFD 해석에 수십 분을 소요한다. HYGO는 2000회 평가 이내에 항력을 20% 이상 감소시키는 설계안을 찾아냈으며, 최적 설계는 물리적으로 해석 가능하고 제트 흐름에 의한 재부착 현상을 명확히 보여준다. 또한, 최적화 과정에서 발생한 평가 실패나 외란에 대비해 체크포인팅·재시작 메커니즘을 내장해 실험적 환경에서도 견고하게 동작한다.

프레임워크는 파이썬으로 구현돼 모듈화된 클래스 구조를 가지고 있다. GA, GP, DSM 외에도 BFGS, COBYLA 등 다른 국부 탐색기를 플러그인 형태로 교체 가능하도록 설계돼 있어, 사용자는 문제 특성에 맞는 로컬 옵티마이저를 자유롭게 선택할 수 있다. 또한, 제약 조건 위반 개체를 자동 재생성하고, 다중 평가를 통한 불확실성 처리 기능을 제공해 실험 데이터의 잡음에도 강인한 최적화를 지원한다.

전체적으로 HYGO는 전역·국부 탐색의 장점을 효과적으로 결합함으로써, 고차원·비선형·노이즈가 존재하는 실세계 엔지니어링 문제에 적용 가능한 범용 하이브리드 최적화 플랫폼을 제시한다.