선형 실수 산술을 위한 양화소거 알고리즘

논문은 선형 실수 산술(LRA) 이론에 대한 양화소거 문제를 다루며, 기존 방법들의 한계를 극복하기 위한 새로운 알고리즘을 제안한다. 서론에서는 양화소거가 모델 집합을 보존하면서 양화자를 제거하는 과정이며, 이는 프로그램 검증 등 실용적인 분야에서 결정 절차로 활용될 수 있음을 강조한다. 논문이 다루는 식은 선형 부등식 형태 L(x₁,…,x_n) ≥ 0 로, 실수(또는 유리수) 위에서 해석된다. 알고리즘 설계는 크게 세 부분으로 구성된다. 첫 번째는 기본 데이터 타입과 논리 연결자(∧, ∨, ¬) 및 양화자(∃, ∀)의 정의이며, 원자 술어는 선형 부등식이다. 두 번째는 외부 서브루틴으로, (1) SMT‑solver 를 이용한 SAT‑modulo‑theory(선형 부등식) 해결기능, (2) 다각형 투영(Project) 연산이다. SMT‑solver는 주어진 식이 만족 가능한지 판단하고, 만족 모델을 반환한다. 투영 연산은 주어진 합성식 C에 포함된 변수 집합 ~v를 제거하고, ∃ ~v C와 동등한 새로운 합성식 C′을 산출한다. 이는 다각형의 고차원 투영을 계산하는 것으로, 파라 폴리헤드라와 같은 라이브러리를 활용한다. 핵심 알고리즘인 ExistElim은 다음과 같은 루프를 수행한다. 초기에는 H ← F, O ← false 로 시작한다. H가 만족 가능한 동안 SMT‑solver 로 모델 a를 얻고, Generalize1을 통해 a가 만족하는 모든 원자 술어를 포함하는 합성식 M₁을 만든다(M₁ ⇒ F). 이어 Generalize2는 M₁에서 불필요한 리터럴을 제거해 M₂를 만든다(M₂ ∧ ¬F 불만족). 그 후 Project를 적용해 ∃ ~v M₂와 동등한 π를 얻고, O에 π를 합친다(O ← O ∨ π). 마지막으로 H를 π의 보완식 ¬π와 교차시켜 업데이트한다(H ← H ∧ ¬π). 루프가 종료되면 O는 ∃ ~v F와 동등한 DNF 식이 된다. 정확성 증명은 세 가지 루프 불변식에 기반한다. (1) (∃ ~v F) ≡ O ∨ (∃ ~v H), (2) H ⇒ F, (3) O는 ~v를 언급하지 않는다. 루프가 진행될 때마다 H가 담당하는 등가 클래스 수 W(H)가 최소 1씩 감소하므로, 최대 2^{N_F} 번의 반복으로 종료가 보장된다. 여기서 N_F는 원식 F에 등장하는 원자 술어의 수이다. 알고리즘의 효율성은 Generalize2 단계에 크게 의존한다. 이 단계는 불필요한 제약을 제거해 M₂를 가능한 한 작게 만들며, 이는 이후 투영 연산의 복잡도를 크게 낮춘다. 논문은 Generalize2를 SAT‑solver 기반의 불만족 집합 최소화 기법을 변형한 것으로 구현했으며, 제약의 순서에 따라 결과가 달라질 수 있지만 포함 관계에 대한 최소성을 보장한다. 실험 섹션에서는 프로그램 분석에서 추출된 실제 사례와 무작위 생성된 선형 제약 집합을 대상으로 기존 양화소거 도구(예: Redlog, Mathematica, Z3 등)와 비교한다. 결과는 제안된 알고리즘이 메모리 소모와 실행 시간 면에서 현저히 우수함을 보여준다. 특히 큰 계수와 높은 차원의 제약을 포함하는 사례에서 기존 도구들은 메모리 초과나 시간 초과로 실패했지만, 본 알고리즘은 안정적으로 해를 도출했다. 또한 두 가지 변형 알고리즘을 제시한다. 변형 1은 모델을 H에서 직접 제거하고 전체 SAT‑enumeration 후 투영을 수행하는 방식이며, 변형 2는 부정된 식 G를 유지하면서 추가 제약을 삽입해 일반화를 시도한다. 실험 결과 원래 알고리즘이 두 변형보다 평균 2배 이상 빠르고 메모리 사용량도 적었다. 마지막으로, 알고리즘은 사용자 정의 이론 T에 대한 양화소거로 확장 가능함을 논의한다. 이 경우 함의 관계 ⇛ 를 ⇛_T 로 교체하면, 동일한 구조의 루프를 통해 T‑modulo 양화소거를 수행할 수 있다. 전체적으로 이 논문은 “ALL‑SAT + Projection”이라는 새로운 패러다임을 제시한다. 기존의 DNF 변환을 직접 수행하는 전통적 방법과 달리, 모델을 하나씩 추출하고 즉시 투영함으로써 중간 단계의 식 폭발을 억제한다. 이는 특히 프로그램 분석에서 발생하는 복잡한 선형 제약 시스템에 대해 실용적인 양화소거를 가능하게 만든다.