전역 최적화를 위한 확률적 탐색 과정의 정상밀도 분석

초록

본 논문은 확률적 탐색 알고리즘의 정상 상태 주변밀도를 근사적으로 구하는 새로운 방법을 제시한다. 마진 밀도를 이용해 전역 최적점이 존재할 가능성이 높은 영역을 식별할 수 있으며, 제안된 절차는 선형 연산만으로 구성돼 문제 규모에 대해 선형적인 계산 비용을 가진다.

상세 분석

논문은 확률적 탐색 과정을 연속적인 확률 미분 방정식, 즉 Langevin 방정식 형태로 모델링하고, 이에 대응하는 Fokker‑Planck 방정식을 통해 상태 변수들의 확률 밀도 함수(PDF)가 시간에 따라 어떻게 진화하는지를 기술한다. 핵심 아이디어는 전체 다변량 PDF 대신 각 변수에 대한 마진 밀도(marginal density)만을 추정함으로써 차원의 저주를 회피하는 것이다. 이를 위해 저차원 공간에서의 확률 흐름을 보존하는 일종의 ‘확률적 흐름 보존 법칙’을 도입하고, 정규화된 확률 흐름을 선형 연산으로 근사한다. 구체적으로, 각 변수 xi에 대해 정적 상태(∂p/∂t=0)에서의 Fokker‑Planck 방정식을 1차 미분 형태로 변형하고, 이를 유한 차분 스킴으로 이산화한다. 결과적으로 얻어지는 선형 시스템은 대각선이 우세한 희소 행렬 형태이며, 가우시안 소거법이나 전진/후진 대입법으로 O(N) 시간에 해결 가능하다. 여기서 N은 문제 차원(변수 수)이다. 또한, 드리프트 항은 목적 함수의 기울기와 직접 연결되므로, 목적 함수의 구조적 정보가 밀도 추정에 자연스럽게 반영된다. 논문은 이 방법을 ‘확률적 흐름 기반 밀도 추정(Probabilistic Flow Based Density Estimation, PFDE)’이라 명명하고, 기존의 마르코프 체인 몬테카를로(MCMC)나 입자 군집 최적화(PSO)와 비교했을 때 샘플링 비용이 현저히 낮으며, 전역 최적점 주변의 고밀도 영역을 빠르게 포착한다는 장점을 강조한다. 실험에서는 다항식, 라그랑주, Rastrigin 등 다양한 비선형 테스트 함수에 대해 정상 마진 밀도를 계산하고, 이 밀도가 실제 전역 최적점과 높은 상관관계를 보임을 확인한다. 또한, 밀도 기반 탐색 전략을 적용한 하이브리드 알고리즘이 전통적인 메타휴리스틱 대비 수렴 속도와 정확도에서 우수함을 실증한다. 마지막으로, 선형 연산만을 사용함에도 불구하고 비선형·비정상적인 탐색 동역학을 충분히 포착할 수 있다는 점에서, 이 접근법은 고차원 전역 최적화 문제에 대한 새로운 이론적·실용적 프레임워크를 제공한다.