다목적 집합 기반 적합도 풍경의 초기 탐구

초록

본 논문은 다목적 최적화 문제를 ‘집합 문제’로 바라보고, 집합을 탐색 단위로 하는 적합도 풍경(set‑based multiobjective fitness landscape)을 정의한다. 이를 기반으로 목표 상관관계를 갖는 다목적 NK‑랜드스케이프에 대해 실험적 풍경 분석을 수행하여, 집합 기반 탐색 알고리즘 설계 시 고려해야 할 구조적 특성을 사전 파악한다.

상세 분석

다목적 최적화에서 전통적으로 개별 해(solution)를 기준으로 파레토 지배 관계와 지표를 정의해 왔지만, 실제 검색 알고리즘은 종종 해의 집합을 동시에 다룬다. Zitzler et al. (2010)이 제안한 ‘집합 문제’ 관점은 이러한 현실을 수학적으로 정형화한다. 논문은 먼저 ‘집합 기반 적합도 함수’를 정의한다. 이는 주어진 해 집합 S 에 대해, 전체 집합 S 의 품질을 측정하는 함수 F(S) 로, 일반적인 지표(예: Hypervolume, ε‑indicator, R2) 중 하나를 선택해 구현한다. 이렇게 하면 탐색 공간은 2^N (전체 해 공간의 멱집합)으로 확장되지만, 실제 알고리즘은 제한된 크기의 집합(예: 고정된 포트폴리오 크기)만을 다루므로 실용적이다.

다음으로 ‘이웃 연산자’를 집합 수준에서 정의한다. 논문은 두 가지 기본 변형을 제시한다. 첫째, 단일 해 교체 연산으로, 현재 집합 S 에서 하나의 해 x 를 제거하고, 인접 해 y (예: 1‑bit 변이)로 교체한다. 둘째, 집합 확장·축소 연산으로, 집합에 새로운 해를 추가하거나 기존 해를 삭제한다. 이러한 연산은 전통적인 단일 해 기반 이웃 정의와 유사하지만, 집합 전체의 적합도 변화를 고려한다는 점에서 차별화된다.

실험적 분석을 위해 다목적 NK‑랜드스케이프 모델을 확장하였다. 기본 NK‑모델은 N 개의 바이너리 변수와 K 개의 상호작용을 통해 복잡한 단일 목적 함수를 만든다. 다목적 버전에서는 M 개의 목적 함수를 정의하고, 각 목적 간 상관계수 ρ 를 조절해 상관관계가 양(positive), 음(negative), 무(correlation)인 경우를 만든다. 이렇게 하면 목표 공간의 구조적 다양성을 체계적으로 탐색할 수 있다.

풍경 분석에서는 (1) 적합도 분포, (2) 등고선(plateau) 비율, (3) 이웃 간 적합도 차이의 통계량, (4) 집합 규모에 따른 탐색 난이도 등을 측정했다. 결과는 목표 상관관계가 강할수록(특히 양의 상관) 적합도 풍경이 더 매끄럽고, 높은 Hypervolume을 갖는 집합이 연속적인 이웃을 통해 쉽게 도달됨을 보여준다. 반대로 음의 상관이 클수록 풍경이 파편화되고, 다수의 지역 최적점이 존재해 탐색이 어려워진다. 또한 K 값이 증가하면 전반적인 ruggedness가 상승하지만, 집합 기반 접근에서는 개별 해의 ruggedness가 집합 평균으로 완화되는 경향을 보였다.

이러한 발견은 집합 기반 다목적 메타휴리스틱 설계에 직접적인 시사점을 제공한다. 예를 들어, 목표 상관관계가 낮은 경우에는 큰 변이와 다중 해 교체를 통한 ‘폭넓은’ 이웃 탐색이 필요하고, 상관관계가 높은 경우에는 작은 변이와 ‘정밀한’ 탐색이 효율적이다. 또한, 집합 크기를 동적으로 조절함으로써 ruggedness를 완화하고, 탐색 효율을 높일 수 있다는 전략적 근거를 제공한다.