정수 영역에서 종료를 보장하는 단조성 제약

초록

본 논문은 정수값을 변수로 갖는 프로그램에 대해 단조성 제약(MC) 기반 전이 시스템을 이용해 종료성을 판단하고, 전역 순위 함수를 효율적으로 생성하는 이론과 알고리즘을 제시한다. 정수 도메인에서도 무한 하강이 불가능함을 보이는 새로운 종료 기준을 제시하고, 이를 PSPACE‑complete 결정 절차와 단일 지수 시간의 순위 함수 합성 방법으로 구현한다.

상세 분석

이 논문은 기존의 Size‑Change Termination(SCT) 기법이 전제하던 ‘잘 정의된(well‑founded) 도메인’ 가정을 버리고, 정수와 같이 비 well‑founded인 도메인에서도 적용 가능한 단조성 제약(Monotonicity Constraints, MC) 기반 전이 시스템(MCS)을 정형화한다. 핵심 아이디어는 변수 간의 관계를 ‘>’, ‘≥’, ‘=’ 같은 순서 관계식의 합으로 표현하고, 각 제어 흐름점에 불변식(state invariant)을 부착함으로써 프로그램의 전체 동작을 유한 그래프(제어 흐름 그래프, CFG)와 연계시키는 것이다.

정수 해석을 명시하기 위해 π‑termination이라는 개념을 도입한다. 동일한 MCS를 정수 해석과 전통적인 well‑founded 해석에 각각 적용했을 때, 전자는 π‑termination(무한 실행이 존재하지 않음) 여부를, 후자는 기존 SCT 기준에 따라 종료성을 판단한다. 이를 통해 동일 모델이 두 도메인에서 서로 다른 종료 결과를 가질 수 있음을 보이며, 정수 도메인 전용의 새로운 종료 기준을 제시한다.

논문은 그래프 이론적 관점에서 ‘무한 다중 경로(infinite multipath)’에 대한 ‘무한 하강 경로(infinite descending walk)’ 존재 여부를 검사하는 조합적 기준을 제시한다. 이 기준은 SCT의 ‘무한 하강 경로’ 조건을 일반화한 것으로, 각 MC를 그래프의 간선에 라벨링하고, 라벨에 따라 전이 시 변수값이 어떻게 변하는지를 추적한다. 존재한다면 무한 실행이 가능하므로 비종료, 존재하지 않으면 모든 실행이 유한하므로 π‑termination이 보장된다.

복잡도 측면에서, 이 조합적 기준을 검증하는 두 알고리즘을 제시한다. 첫 번째는 전이 관계의 폐쇄 연산을 반복 적용하는 직접적인 방법이며, 두 번째는 MCS를 기존 SCT 문제로 환원시켜 SCT 전용 결정 절차를 활용한다. 두 방법 모두 PSPACE‑complete임을 증명한다.

특히, 정수 도메인에서 순위 함수를 구성하는 과정이 핵심 기여 중 하나이다. 논문은 ‘정규화(elaboration)’와 ‘안정화(stabilization)’ 과정을 통해 MCS를 단순화하고, 각 변수의 차이(x_i−x_j) 를 새로운 비음수 변수로 변환하는 전처리를 수행한다. 이후, 단일 지수 시간(O(2^{O(n log n)})) 안에 전역 순위 함수를 생성할 수 있음을 보이며, 생성된 순위 함수는 튜플 형태이며 사전 순서(lexicographic) 관계에 따라 감소한다. 또한, 최악의 경우에도 차원(튜플 길이)이 최적임을 증명한다.

정수 도메인 특유의 어려움—예를 들어 변수값이 음수일 수 있음에도 불구하고 종료를 증명해야 하는 상황—을 다루기 위해, 기존의 차이 변수 도입 방식이 변수 수를 제곱시켜 비효율적일 수 있음을 지적하고, 직접적인 그래프 기반 접근법을 채택한다. 이를 통해 예제 2.9와 같이 차이 변수만으로는 증명이 불가능한 경우에도 성공적으로 종료성을 판정한다.

결과적으로, 이 논문은 정수 기반 프로그램 분석에 있어 기존 SCT가 갖는 한계를 극복하고, 보다 일반적인 단조성 제약을 활용한 종료 분석 프레임워크를 제공한다. 이론적 완전성, 복잡도 최적성, 그리고 실용적인 순위 함수 합성 알고리즘을 모두 갖춘 최초의 연구로 평가할 수 있다.