동적 임계값 최적화: 새로운 전역 탐색 전략

초록

동적 임계값 최적화(DTO)는 목표 함수의 하한을 점진적으로 올려 결정 공간을 압축함으로써 전역 탐색 효율을 높이는 기법이다. 변수 범위를 축소하는 기존 방법과 달리, 함수값 자체를 제한해 탐색 영역을 “압축”한다. 논문에서는 2차원 및 30차원 Schwefel Problem 2.26에 적용해 좋은 수렴성을 보였으며, DTO가 다양한 최적화 문제에 보편적으로 적용될 수 있음을 주장한다.

상세 분석

DTO는 전통적인 전역 탐색 기법이 직면하는 “탐색 공간 과다” 문제를 함수값 차원에서 해결한다는 점에서 혁신적이다. 기존 방법은 변수의 상·하한을 점진적으로 좁혀 탐색 영역을 물리적으로 축소하지만, 이는 문제의 구조적 특성을 무시하고 경계 근처의 잠재적 최적점을 놓칠 위험이 있다. 반면 DTO는 현재까지 발견된 최적값 f* 보다 약간 높은 임계값 T 를 설정하고, 목표 함수를 max(f(x), T) 형태로 변형한다. 이렇게 하면 f(x) 가 T 이하인 모든 점은 동일한 “평평한” 지형으로 처리되어 탐색 알고리즘이 그 영역을 무시하고 고득점 영역으로 집중한다.

알고리즘 흐름은 다음과 같다. 1) 초기 무작위 샘플링으로 초기 최적값 f₀ 를 얻는다. 2) 임계값 Tₖ 를 fₖ 에 비례하거나 일정 비율로 증가시켜 설정한다. 3) 기존 탐색 기법(예: PSO, DE, GA 등)을 변형된 목표 함수 gₖ(x)=max(f(x), Tₖ) 에 적용한다. 4) 새로운 탐색 결과에서 최고값 fₖ₊₁ 을 얻고, 수렴 기준(임계값 변화율, 최대 반복 횟수 등)이 충족될 때까지 2‑3단계를 반복한다.

핵심 아이디어는 “임계값 상승”이 탐색 과정을 단계적으로 제한함으로써 탐색 비용을 감소시키고, 동시에 고품질 해에 대한 집중도를 높인다는 점이다. 이때 임계값 상승 속도와 상승 폭은 알고리즘 성능에 큰 영향을 미치며, 논문에서는 경험적 규칙(예: Tₖ₊₁ = Tₖ + α·(fₖ−Tₖ), α∈(0,1))을 제시한다.

실험에서는 2차원 Schwefel 2.26에서 전통적인 PSO와 비교해 평균 수렴값이 1 % 이하로 개선되었으며, 30차원에서는 평균 최적값이 기존 방법 대비 약 3 % 향상되었다. 특히 고차원에서 탐색 비용(함수 평가 횟수)이 20 % 이상 감소한 점이 주목할 만하다. 이는 DTO가 고차원 비선형 다중극값 문제에서 “불필요한 저평가 영역”을 효과적으로 배제한다는 증거다.

하지만 몇 가지 한계도 존재한다. 첫째, 임계값 설정이 부적절하면 탐색이 과도하게 제한돼 전역 최적점을 놓칠 수 있다. 둘째, 목표 함수가 불연속이거나 급격히 변동하는 경우 max 연산이 인접 해 사이의 미세한 차이를 무시해 지역 최적에 머무를 위험이 있다. 셋째, 현재 논문은 DTO를 단일 탐색 기법에만 적용했으며, 복합 메타휴리스틱이나 하이브리드 기법과의 시너지 효과는 아직 검증되지 않았다.

향후 연구 방향으로는 (1) 적응형 임계값 스케줄링(예: 학습 기반 α 조정), (2) 다목적 최적화에서 각 목표에 대한 별도 임계값 적용, (3) 제한된 메모리 환경에서의 구현 최적화, (4) 다른 전역 탐색 프레임워크와의 통합을 통한 성능 비교가 필요하다. 전반적으로 DTO는 전역 탐색의 새로운 차원을 제시하며, 특히 고차원 복잡 문제에서 탐색 효율성을 크게 향상시킬 가능성을 보여준다.