연속 최적화 기반 SMT 해결기 FourierSMT: xWFE와 xBDD를 활용한 대규모 선형 실수 연산

초록

본 논문은 기존 CDCL 기반 SMT 솔버의 병렬화 한계를 극복하고자, Walsh‑Fourier 전개를 혼합 Boolean‑실수 영역으로 확장한 xWFE와 이를 효율적으로 평가하기 위한 xBDD 구조를 제안한다. 연속 변수에 대한 무작위 라운딩과 Gaussian 샘플링을 통해 기대값을 계산하고, 이를 목표 함수의 부드러운 근사로 만든 뒤 GPU 친화적인 경사 하강법으로 최적화한다. 10 000 변수·700 000 제약을 갖는 대규모 스케줄링·배치 문제에서 기존 최첨단 SMT 솔버 대비 8배 가량 빠른 성능을 보이며, 해의 존재 여부를 보장하는 Soundness 정리를 제공한다.

상세 분석

FourierSMT는 SMT(LRA) 문제를 연속 최적화 문제로 변환하는 새로운 패러다임을 제시한다. 핵심 아이디어는 Walsh‑Fourier Expansion(WFE)을 Boolean‑실수 혼합 도메인으로 일반화한 extended WFE(xWFE)이다. 기존 WFE는 {±1}ⁿ의 Boolean 하이퍼큐브 위에서만 정의되었지만, xWFE는 Boolean 변수와 선형 실수 원자(αᵢ) 각각에 대한 지시자 δᵢ(y)를 도입해 f_c(x,y)=∑_{S⊆