이진 공간 최적화를 위한 입자 알고리즘

초록

본 논문은 의사불리언(0‑1) 목적함수의 전역 최적화를 위해 입자 기반 확률 샘플링 기법을 통합적으로 제시한다. 온도 조절 방식과 레벨 집합 방식을 이용한 확률분포 시퀀스를 정의하고, 이를 순차적 몬테카를로(SMC) 프레임워크에 적용한다. 특히 이산 이진 공간에서 복잡한 변수 의존성을 포착할 수 있는 파라메트릭 분포군(예: 다변량 베르누이, Ising‑like 모델 등)을 보조 샘플링 분포로 활용한다. 실험 결과, 다중극성(멀티모달) 문제가 강하게 나타나는 경우 입자‑구동 알고리즘이 단순 로컬 탐색(시뮬레이티드 어닐링, k‑opt 등)보다 우수한 해를 찾으며, 반대로 구조가 단순한 문제에서는 로컬 휴리스틱이 더 효율적임을 확인한다.

상세 분석

논문은 먼저 의사불리언 최적화 문제를 확률적 필터링 문제로 재구성한다. 목표함수 f(x)를 에너지로 해석하고, 온도 매개변수 β에 따라 πβ(γ)=νβ exp(β f(γ)) 형태의 ‘템퍼드’ 분포와, 목표값 근처만을 포함하는 레벨 집합 L⁺β를 균등하게 샘플링하는 ‘레벨 집합’ 분포 πβ(γ)=|L⁺β|⁻¹ 1_{L⁺β}(γ)를 정의한다. 두 분포 모두 β→∞일 때 전역 최적해 집합 M_f에 수렴한다는 점에서 전통적인 시뮬레이티드 어닐링과 크로스‑엔트로피(CE) 방법의 이론적 기반을 제공한다.

핵심 기여는 이러한 연속적인 목표 분포 시퀀스를 실제 샘플링에 적용하기 위해 ‘파라메트릭 패밀리’를 도입한 점이다. 이진 공간에서 변수 간 복잡한 상관관계를 모델링하기 위해 (1) 독립 베르누이 제품분포, (2) 다변량 베르누이(다항 로짓) 모델, (3) Ising‑like 그래프 모델 등 세 가지 파라메트릭 형태를 검토한다. 각 패밀리는 SMC의 제안 단계에서 독립적인 후보를 생성하거나, 적응형 독립 제안 분포 q_θ(·)를 구성하는 데 사용된다. 특히 적응형 독립 커널은 현재 입자 집합의 경험적 분포를 최대우도 추정하거나 KL‑다이버전스 최소화 방식으로 파라미터 θ를 업데이트함으로써, 목표 분포 πβ와의 거리를 실시간으로 좁힌다.

SMC 알고리즘 자체는 순차적 중요 가중치 업데이트, 체계적 재샘플링, 그리고 메트로폴리스‑헤이스팅 이동 단계로 구성된다. 가중치 재계산 시 효과적 샘플 크기(ESS)를 모니터링하고, ESS가 사전에 정한 비율 β(예: 0.9) 이하로 떨어지면 β를 증가시켜 새로운 목표 분포를 정의한다. 재샘플링 후 입자 다양성을 유지하기 위해 ‘입자 다양도’ ζ_n을 측정하고, ζ_n이 목표 다양도에 근접하거나 변화율이 미미해질 때까지 이동 단계(메트로폴리스 제안)를 반복한다.

실험에서는 무제한 이진 2차 최적화(QUBO) 인스턴스를 사용해 세 가지 파라메트릭 패밀리와 기존 로컬 탐색(시뮬레이티드 어닐링, k‑opt) 및 CE 방법을 비교한다. 다중극성 구조를 가진 난이도 높은 인스턴스에서는 파라메트릭 패밀리를 활용한 SMC가 전역 최적값에 더 가까운 해를 높은 확률로 발견했으며, 특히 Ising‑like 모델이 복잡한 상관관계를 잘 포착해 성능을 크게 끌어올렸다. 반면, 단일 피크 혹은 낮은 차원의 문제에서는 로컬 탐색이 적은 연산량으로 충분히 최적해를 찾았다. 이러한 결과는 입자 기반 전역 탐색이 고차원·다중극성 문제에 강점을 가지지만, 알고리즘 복잡도와 파라메터 튜닝 비용이 존재함을 시사한다.

결론적으로, 논문은 (1) 온도 기반 및 레벨 집합 기반 목표 분포의 일반화, (2) 이진 공간에 특화된 파라메트릭 제안 분포의 설계, (3) ESS와 입자 다양도를 이용한 적응형 β·θ 업데이트 메커니즘을 결합한 SMC 프레임워크를 제시함으로써, 기존의 단순 메타휴리스틱을 넘어서는 전역 최적화 도구를 제공한다. 향후 연구에서는 더 효율적인 파라메트릭 모델(예: 딥 베이즈 네트워크)과 고속 독립 커널 설계, 그리고 병렬 구현을 통한 스케일업이 기대된다.