형식 증명으로 보는 실대수 기하와 양화소거

초록

이 논문은 Coq 증명 도우미 안에서 이산 실폐쇄체(discrete real closed field)를 형식화하고, 다항식의 가상 나머지 시퀀스(pseudo‑remainder sequence)를 이용한 양화소거(quantifier elimination) 알고리즘을 기계적으로 증명한다. 실대수와 반대수적 다양체의 이론을 추상화한 구조를 정의하고, 실근 존재성 및 다항식 부호 변화를 다루는 기본 정리를 전개한 뒤, 전통적인 컴퓨터 대수학 문헌에 기반한 양화소거 증명을 Coq에 구현한다. 이를 통해 실수 대수적 계산법의 형식적 검증 가능성을 제시한다.

상세 분석

논문은 먼저 ‘이산 실폐쇄체’라는 추상 구조를 도입한다. 이는 실대수 체의 핵심 성질—특히 차수와 부호에 관한 결정 가능성—을 유지하면서도, Coq 같은 정리 증명 시스템에서 다루기 쉬운 유한 표현을 허용한다. 저자들은 이 구조 위에 다항식의 기본 연산과 유클리드 알고리즘을 정의하고, 가상 나머지 시퀀스(pseudo‑remainder sequence, PRS)를 이용해 다항식의 실근 존재성을 판단하는 알고리즘을 형식화한다. PRS는 전통적인 유클리드 나눗셈이 아닌, 계수의 정수성(또는 이산성)을 보존하도록 설계된 연산으로, 계수 폭이 급격히 증가하는 문제를 완화한다.

다음 단계에서는 실대수 체에서의 부호 변화 정리와 Sturm 정리를 Coq 안에서 정리하고, 이를 기반으로 다항식의 부호 변화를 정확히 추적한다. 특히, ‘sign variation’ 개념을 정형화함으로써, 다항식이 특정 구간에서 양 또는 음이 되는 구간을 효과적으로 구분한다. 이러한 기초 위에, 저자들은 ‘양화소거’를 위한 전통적인 알고리즘—즉, 실대수 체에서의 Tarski‑Seidenberg 정리의 구성적 증명—을 구현한다. 핵심 아이디어는 다항식 집합을 순차적으로 정리하고, 각 단계에서 PRS를 사용해 새로운 부등식이나 등식의 형태를 도출하는 것이다.

특히, 논문은 ‘resultant’와 ‘subresultant’ 개념을 Coq에 정식화하고, 이들을 이용해 다항식 간의 공통 근을 검출한다. 이를 통해 복합적인 양화식(∃x ∀y …)을 단계별로 단순화하고, 최종적으로 양화가 없는 다항식 논리식으로 변환한다. 전체 과정은 전산대수학에서 널리 쓰이는 ‘CAD (Cylindrical Algebraic Decomposition)’와는 달리, PRS 기반의 보다 효율적인 절차를 제공한다는 점에서 의미가 크다.

마지막으로, 저자들은 구현된 증명 스크립트를 통해 실제 예제—예를 들어, 실대수 근을 포함하는 다항식 시스템의 해 존재성 판단—를 검증한다. 이 과정에서 Coq의 자동화 전술과 사용자 정의 전술이 어떻게 결합되어 복잡한 대수적 계산을 형식적으로 증명할 수 있는지를 상세히 보여준다. 전체적으로, 이 연구는 실수 대수적 기하와 양화소거 알고리즘을 형식화함으로써, 수치 해석·최적화·자동 증명 분야에서의 신뢰성을 크게 향상시킬 잠재력을 제시한다.