MOEA/D‑GM: 확률 그래프 모델을 활용한 다목적 진화 알고리즘의 새로운 패러다임

초록

본 논문은 MOEA/D 프레임워크에 확률 그래프 모델(단변량 및 트리형)을 도입한 MOEA/D‑GM을 제안한다. 각 스칼라 서브문제마다 모델을 학습·샘플링함으로써 변수 간 의존성을 포착하고, 다목적 트랩5 함수 실험에서 트리 모델이 구조를 정확히 파악해 기존 MOEA/D 대비 파레토프론트 근사 품질을 크게 향상시켰음을 보인다.

상세 분석

MOEA/D‑GM은 기존 MOEA/D의 변이·교차 연산을 확률적 모델 기반 샘플링으로 대체한다는 점에서 근본적인 설계 변화를 시도한다. 먼저, 다목적 문제를 가중치 벡터 λ에 의해 정의된 N개의 스칼라 서브문제로 분해하고, 각 서브문제 i에 대해 이웃 집합 B(i)와 교체 집합 R(i)를 설정한다. 전통적인 MOEA/D에서는 B(i)에서 두 부모를 선택해 교차·돌연변이로 새로운 해 y를 생성하고, g_te(y|λ_r) 값이 기존 해보다 우수하면 R(i) 내의 해들을 교체한다. MOEA/D‑GM에서는 이 과정을 ‘Variation’ 단계에서 확률 그래프 모델을 학습하고, 그 모델로부터 y를 직접 샘플링한다.

모델 종류는 크게 두 가지로 구분된다. 첫 번째는 단변량 마진 분포(p_u)만을 이용하는 UMDA/ PBIL 계열이다. 이 경우 변수 간 독립성을 가정하므로, 변수 간 상호작용이 강한 기만적 함수(예: Trap5)에서는 탐색 효율이 급격히 저하된다. 두 번째는 트리 구조를 갖는 확률 그래프 모델(p_T)이다. 저자들은 변수 간 상호정보 행렬을 계산하고, 최대 스패닝 트리(MST) 알고리즘을 이용해 각 서브문제에 최적의 트리를 학습한다. 트리 모델은 각 변수 X_j가 최대 하나의 부모 pa(X_j)를 갖도록 하여 조건부 확률 p(x_j|pa(x_j))를 추정한다. 이렇게 학습된 트리는 변수 간 1차 상호작용을 효과적으로 포착하고, 샘플링 단계에서는 트리 구조에 따라 순차적으로 변수를 생성한다.

실험에서는 다목적 Trap5 함수를 사용해 MOEA/D‑GM‑Tree, MOEA/D‑GM‑Univariate, 기존 MOEA/D(교차·돌연변이) 세 가지 변형을 비교하였다. 성능 평가는 IGD(Inverted Generational Distance)와 HV(Hypervolume) 두 지표를 사용했으며, 통계적 유의성 검증을 위해 Wilcoxon signed‑rank test을 적용하였다. 결과는 트리 모델이 변수 간 의존성을 정확히 학습해 탐색 공간을 효율적으로 축소함을 보여준다. 특히, 트리 모델을 사용한 MOEA/D‑GM‑Tree는 파레토프론트에 더 가깝고, 다양성을 유지하면서도 수렴 속도가 빠른 것으로 나타났다. 반면, 단변량 모델은 기존 MOEA/D와 비슷하거나 오히려 열등한 성능을 보였으며, 이는 기만적 구조를 포착하지 못함을 의미한다.

또한, 저자들은 모델 학습 비용과 샘플링 비용을 고려해 트리 모델의 복잡도(O(n^2) 의 상호정보 계산)와 파라미터 업데이트 비용을 분석하였다. 실험 결과는 이러한 추가 비용이 전체 실행 시간에 크게 영향을 주지 않으며, 성능 향상이 비용을 상쇄한다는 점을 시사한다.

본 연구는 MOEA/D와 EDA를 결합한 최초의 프레임워크 중 하나로, 서브문제 별 맞춤형 확률 모델을 통해 다목적 이산 최적화 문제에서 변수 의존성을 활용할 수 있음을 입증한다. 향후 연구에서는 더 복잡한 그래프(예: 베이지안 네트워크)나 연속형 변수에 대한 확장, 동적 가중치 조정 및 다중 목표 수가 늘어나는 상황에서의 스케일링 문제 등을 탐구할 여지가 있다.