CAD 변수 순서 선택을 위한 세 가지 휴리스틱 비교

초록

본 논문은 실수 대수기하에서 핵심 도구인 원통형 대수 분해(CAD)의 효율성을 크게 좌우하는 변수 순서 선택 문제에 대해, Brown, sotd, ndrr 세 가지 휴리스틱을 대규모 실험을 통해 비교한다. 7 001개의 3변수 존재성 문제와 그에 대응하는 무량화 문제에 대해 Qepcad‑B를 이용해 셀 수를 기준으로 성능을 평가했으며, Brown 휴리스틱이 가장 빈번히 최적 선택을 제공하지만 평균 셀 절감률에서는 sotd가 더 우수함을 보고한다. 또한 ndrr은 가장 비용이 많이 들지만 특정 경우에 타 휴리스틱보다 좋은 선택을 할 수 있음을 확인한다.

상세 분석

이 연구는 CAD 수행 시 변수 순서가 계산 복잡도에 미치는 영향을 정량적으로 분석한 점에서 의미가 크다. 먼저 세 휴리스틱의 설계 원리를 살펴보면, Brown은 입력 다항식의 변수별 전체 차수, 최대 차수, 포함 항 수라는 세 가지 단순 통계량을 순차적으로 비교해 가장 ‘가벼운’ 변수를 먼저 제거하도록 한다. 이는 입력 수준에서만 정보를 활용하므로 계산 비용이 거의 없으며, 실제 실험에서도 가장 빠르게 결정을 내린다. 반면 sotd는 각 변수 순서에 대해 전체 투영 다항식 집합을 생성하고, 이 집합에 포함된 모든 단항의 차수 합을 최소화하는 순서를 선택한다. 이는 투영 단계에서 발생하는 다항식의 복잡도를 직접 측정하므로 Brown보다 비용이 크지만, CAD의 핵심 연산인 투영과 리프팅에 대한 더 정확한 예측을 제공한다. ndrr은 sotd와 유사하게 투영 집합을 만든 뒤, 각 투영 다항식의 실근 개수를 세어 가장 적은 실근을 갖는 순서를 선택한다. 실근 개수는 실제 실수 기하 구조를 반영하므로 가장 ‘실제’ 문제 난이도를 나타내지만, 실근 분리 과정이 고비용 연산이므로 전체 실행 시간과 메모리 사용량이 크게 증가한다. 실험 설계는 nlsat 데이터베이스에서 추출한 7 001개의 3변수 존재성(SAT) 문제와, 양화자를 제거한 동일 문제 집합(무량화)으로 구성하였다. 각 문제에 대해 6가지 가능한 변수 순서에 대해 Qepcad‑B를 실행해 생성된 셀 수를 기록했으며, 셀 수가 가장 적은 순서를 ‘최적’으로 정의하였다. 결과는 세 휴리스틱이 각각 최적 선택을 차지한 비율을 제시한다. 무량화 문제에서는 Brown이 60.29%, sotd가 51.71%, ndrr가 64.61%로 ndrr이 가장 높은 비율을 보였지만, 양화된 문제에서는 Brown이 65.75%로 가장 우세했다. 평균 셀 절감률을 비교하면, sotd가 무량화 문제에서 평균 27.32%의 절감 효과를 보인 반면, Brown은 -0.20%로 거의 차이가 없었다. 이는 Brown이 종종 최적 순서를 잡지만, 최적 순서와 평균 순서 사이의 차이가 작아 절감 효과가 제한적임을 의미한다. ndrr은 평균 절감률이 가장 낮았지만, 타임아웃이 발생한 경우(특히 양화된 문제)에는 ndrr이 가장 많이 타임아웃을 회피했다는 점에서 특정 난이도 구간에서 강점을 가진다. 전반적으로 연구는 변수 순서 선택이 CAD 성능에 미치는 영향을 정량화했을 뿐 아니라, 비용 대비 효과를 고려한 휴리스틱 선택의 필요성을 강조한다. 또한, Brown 휴리스틱이 비공식적으로만 알려졌음에도 불구하고 실험에서 일관된 우수성을 보인 점은 향후 CAD 구현에 있어 간단하면서도 효과적인 기본 전략으로 채택될 가능성을 시사한다.