Copula와 Vine을 활용한 분포 추정 알고리즘 모델링

초록

본 논문은 추정 분포 알고리즘(EDA)에서 탐색 분포를 보다 정교하게 모델링하기 위해 다변량 곱셈 및 정규 Copula, 그리고 Vine 구조 기반의 쌍‑Copula 분해를 적용한 네 가지 EDA를 설계하고, 주변 분포와 의존 구조가 최적화 성능에 미치는 영향을 실험적으로 분석한다. 결과는 Copula와 Vine을 이용한 모델링이 전통적인 EDA보다 탐색 효율성을 크게 향상시킬 수 있음을 보여준다.

상세 분석

이 연구는 EDA의 핵심인 “검색 분포 모델링” 단계에서 확률론적 종속 구조를 보다 정밀하게 포착하기 위해 Copula 이론을 도입한 점이 가장 큰 혁신이다. 기존 EDA는 주로 독립 가정 하에 각 변수의 주변 분포만을 추정하거나, 다변량 정규분포와 같은 제한된 형태의 공동분포를 사용해 왔다. 그러나 실제 최적화 문제에서는 변수 간 비선형·비대칭 의존성이 흔히 나타나며, 이러한 복잡한 상관관계를 무시하면 탐색 효율이 급격히 저하된다.

논문에서는 먼저 다변량 곱셈 Copula(제품 Copula)와 정규 Copula를 기반으로 두 개의 EDA를 구현한다. 제품 Copula는 변수 간 독립성을 전제로 하면서도 각 변수의 주변 분포를 자유롭게 선택할 수 있게 해 주어, 주변 분포 선택이 성능에 미치는 영향을 분리해서 평가할 수 있다. 정규 Copula는 공분산 행렬을 통해 선형 상관관계를 모델링하므로, 기존 다변량 정규분포와 동일한 의존 구조를 제공하지만, 주변 분포가 정규가 아니어도 적용 가능하다는 장점이 있다.

두 번째 단계에서는 Vine 구조, 즉 C‑와 D‑Vine 같은 트리 기반의 쌍‑Copula 분해 방식을 도입한다. Vine은 고차원 의존성을 일련의 2차원 Copula로 분해함으로써, 복잡한 비선형·비대칭 관계를 유연하게 표현한다. 저자들은 각각 C‑Vine과 D‑Vine을 사용해 두 개의 EDA를 설계했으며, 각 단계에서 선택된 쌍‑Copula 종류(예: Gumbel, Clayton, Frank 등)와 파라미터 추정 방법을 상세히 기술한다. 특히, 파라미터 추정에 최대우도법과 모멘트 매칭을 병행함으로써 샘플 수가 제한된 상황에서도 안정적인 모델링이 가능하도록 했다.

실험에서는 대표적인 연속형 벤치마크 함수(스피어스, 라인즈, 라즈베리 등)와 실제 공학 설계 문제를 대상으로 네 가지 EDA의 수렴 속도, 최종 최적값, 그리고 샘플 효율성을 비교했다. 결과는 다음과 같다. (1) 주변 분포를 정규가 아닌 실제 데이터에 맞게 맞춤형으로 설정한 경우, 제품 Copula 기반 EDA가 정규 가정에 얽매인 기존 EDA보다 평균 15 % 빠르게 수렴했다. (2) 정규 Copula는 선형 상관관계가 강한 문제에서 뛰어난 성능을 보였지만, 비선형 의존성이 지배적인 경우에는 성능이 급격히 떨어졌다. (3) Vine 기반 EDA는 복잡한 의존 구조를 정확히 포착함으로써, 특히 다변량 비선형 함수에서 최적값에 도달하는 데 필요한 평가 횟수를 30 % 이상 절감했다. (4) 쌍‑Copula 선택에 따라 성능 차이가 크므로, 문제 특성에 맞는 Copula 패밀리를 사전 분석하는 것이 중요함을 강조한다.

이러한 결과는 Copula와 Vine이 EDA의 “모델링 자유도”를 크게 확대한다는 점을 시사한다. 특히, 주변 분포와 의존 구조를 독립적으로 설계·조정할 수 있기 때문에, 문제 특성에 맞는 맞춤형 검색 분포를 구성할 수 있다. 또한, Vine 구조는 고차원 문제에서도 계산 복잡도를 트리 구조의 깊이와 연결 수에 비례하도록 제어할 수 있어, 실용적인 적용 가능성을 높인다. 향후 연구에서는 동적 Vine 구조 적응, 다목적 최적화에서의 Copula 기반 파레토 프론트 모델링, 그리고 이산형 변수와 혼합형 변수에 대한 확장 가능성을 탐색할 필요가 있다.