종료 인증서 자동 검증 도구 개발과 형식 검증

초록

본 논문은 항목 재작성 시스템(term rewrite systems, TRS)의 종료성을 증명하는 인증서를 자동으로 검증하는 독립 실행형 도구를 설계·구현하고, 그 정확성을 Coq 증명 보조기구를 이용해 형식적으로 증명한다. Coq의 추출 메커니즘과 재작성 이론 라이브러리 CoLoR을 활용해 인증서 파싱, 검증 알고리즘 구현, 그리고 전체 시스템의 정합성을 기계적으로 검증한다.

상세 분석

논문은 자동 정리 증명기들이 제공하는 종료 인증서의 신뢰성을 높이기 위해, 인증서 검증기를 별도 도구로 구현하고 그 구현 자체를 형식적으로 검증하는 접근을 제시한다. 핵심 아이디어는 Coq 내에서 인증서 검증 로직을 정의하고, Coq의 추출 기능을 이용해 실행 가능한 OCaml 프로그램을 생성함으로써, 검증기의 실행 단계와 형식 증명 단계가 일치하도록 하는 것이다. 이를 위해 저자들은 CoLoR(Computational Logic of Rewriting) 라이브러리를 기반으로 TRS의 구조, 규칙, 그리고 종료 증명에 필요한 순서 관계(예: 해석, 체인, 폴리노미얼 순서)를 형식화하였다. CoLoR은 이미 여러 재작성 이론 결과를 Coq에 정리해 놓은 풍부한 정의와 정리를 제공하므로, 인증서에 포함된 다양한 종료 기법을 그대로 매핑할 수 있다.

인증서 포맷은 국제 표준인 CPF(Certification Problem Format)를 따르며, XML 기반의 트리 구조로 각 규칙, 해석, 증명 단계가 기술된다. 검증기는 먼저 XML 파서를 통해 CPF를 내부 Coq 데이터 구조로 변환하고, 각 단계별 검증 함수를 순차적으로 호출한다. 예를 들어, 해석 기반 증명에서는 각 함수 기호에 대한 해석 함수를 정의하고, 모든 규칙에 대해 해석 감소를 확인한다. 체인 기반 증명에서는 체인 전이 그래프를 구성하고, 사이클이 없음을 확인함으로써 체인 조건을 만족함을 증명한다. 이러한 검증 절차는 Coq 정의와 일치하도록 설계되었으며, 각 검증 함수에 대해 정리와 보조 정리를 제공해 “검증 함수가 true를 반환하면 해당 단계는 형식적으로 올바르다”는 명제를 Coq에서 증명한다.

특히 저자들은 전체 검증기의 정합성을 두 단계로 나눈다. 첫 번째는 “증명서 파싱 단계가 입력을 정확히 해석한다”는 정리이며, 이는 XML 스키마와 Coq 타입 간의 동형성을 보이는 것으로 증명된다. 두 번째는 “검증 로직이 모든 정의된 종료 기법을 올바르게 적용한다”는 정리로, 각 기법에 대한 개별 정리를 조합해 전체 검증기의 정당성을 얻는다. Coq의 추출 메커니즘을 통해 얻어진 OCaml 코드는 실행 시 동일한 논리적 의미를 유지함을 보장한다.

성능 측면에서는 기존 인증서 검증기와 비교해 약간의 오버헤드가 존재하지만, 형식 검증이라는 부가 가치를 제공한다는 점에서 충분히 실용적이다. 또한, CoLoR 기반 구현은 새로운 종료 기법이 추가될 때 라이브러리만 확장하면 검증기에 자동으로 반영될 수 있는 모듈성을 갖는다. 전체적으로 이 연구는 자동 정리 증명기의 신뢰성을 강화하고, 형식 검증과 실행 검증을 일관되게 연결하는 중요한 사례를 제공한다.