다목적 최적화에서 구조적 편향 탐구

초록

본 논문은 다목적 최적화 알고리즘이 목표 함수와 무관하게 탐색 공간의 특정 영역을 선호하는 현상, 즉 구조적 편향을 정의하고 이를 정량적으로 측정하기 위한 새로운 테스트 스위트와 분석 방법론을 제시한다. 무작위 목표 함수를 이용해 알고리즘의 내부 동작만을 드러내는 실험을 수행하고, 기존 단일목적용 BIAS 툴박스를 다목적 상황에 맞게 확장한다. 다양한 파레토 전선 형태와 밀도, 잡음 수준을 포함한 11개의 합성 문제를 통해 구조적 편향이 파레토 전선의 형태·비지배점 비율 등에 어떻게 영향을 받는지를 체계적으로 조사한다.

상세 분석

구조적 편향은 알고리즘 설계 자체가 탐색 공간에 비균등한 압력을 가함으로써 발생한다는 점에서, 다목적 최적화에서는 특히 지배 관계와 다양성 유지 메커니즘이 편향을 증폭시킬 가능성이 있다. 논문은 이를 정량화하기 위해 두 단계의 접근을 채택한다. 첫째, 목표 함수 f₀와 같이 입력 위치와 무관하게 균등한 난수 값을 반환하는 무정보 목표 함수를 각 목적에 적용함으로써, 알고리즘이 얻는 피드백을 완전히 차단한다. 둘째, 이러한 무정보 함수 위에 파레토 전선의 형태와 밀도를 인위적으로 설계한 11개의 합성 문제를 정의한다. 각 문제는 파레토 전선이 단일점, 분리형, 계단형, 오목·볼록 구간 등 다양한 기하학적 특성을 가지며, 파라미터 r을 통해 비지배점의 밀도를 조절한다.

실험 설계에서는 알고리즘을 동일한 초기 균등 분포와 동일한 평가 예산으로 여러 번 실행하고, 각 실행에서 얻은 비지배 집합의 결정 변수 좌표 집합 X_P와 최종 인구 집합 X_L을 저장한다. 이후 X_P와 X_L의 분포가 균등한지 여부를 판단하기 위해 기존 BIAS 툴박스의 39가지 통계 검정과 랜덤 포레스트 분류기를 그대로 적용한다. 필요에 따라 Deep‑BIAS와 같은 딥러닝 기반 분류기도 활용해 편향 유형을 미세하게 구분한다.

결과 분석에서는 파레토 전선의 형태가 구조적 편향의 유형에 미치는 영향을 확인한다. 예를 들어, 단일점 파레토 전선(f₁)에서는 대부분의 알고리즘이 중심부에 집중하는 경향이 나타났으며, 분리형 전선(f₂)에서는 특정 구역에 과도하게 머무르는 편향이 두드러졌다. 또한 비지배점 비율이 낮은 경우(예: f₂‑α)에는 탐색 공간 전체에 걸친 균등성이 유지되는 반면, 비지배점 비율이 높은 경우(f₅)에는 알고리즘마다 특정 영역을 선호하는 현상이 뚜렷이 드러났다. 이러한 현상은 다양성 유지 연산자(예: 교차·돌연변이)의 설계가 탐색 공간을 어떻게 샘플링하는지와 직접 연결된다.

논문은 또한 다목적 상황에서 구조적 편향을 측정할 때 발생하는 방법론적 난관을 논의한다. 단일목적에서는 최적 해 하나만을 분석하면 되지만, 다목적에서는 비지배 집합 자체가 다차원이며, 각 실행마다 크기와 형태가 변동한다. 따라서 X_P와 X_L을 별도로 분석하고, 파레토 전선의 이론적 크기와 샘플링된 비지배점 수의 관계를 정량화하는 절차가 필요하다. 이러한 절차는 향후 다목적 알고리즘의 설계 단계에서 편향을 최소화하도록 가이드라인을 제공할 수 있다.

전반적으로 본 연구는 구조적 편향을 다목적 최적화에 적용하는 최초의 체계적 시도이며, 제안된 테스트 스위트와 분석 파이프라인은 알고리즘 개발자와 벤치마크 설계자가 편향을 사전에 탐지하고 보완하는 데 유용한 도구가 될 것이다.