프로그램 종료 증명 잘 정의된 순서와 라무시 이론 및 행렬 활용

초록

이 논문은 사용자 입력에 따라 동작하는 반복 프로그램들의 무한 실행을 방지하고, 프로그램이 모든 입력에 대해 반드시 종료함을 보이기 위해 세 가지 수학적 도구—잘 정의된 순서, 라무시 정리, 그리고 행렬 기반 방법—를 활용하는 방법을 체계적으로 제시한다. 구체적인 예제와 일반 정리를 통해 각 기법의 적용 조건과 증명 구조를 설명하고, 실제 자동 검증 도구에 적용 가능한 형태로 정리한다.

상세 분석

논문은 먼저 프로그램을 상태 집합 S, 초기 상태 집합 I, 전이 관계 R 로 정의된 삼중항( S, I, R ) 형태의 형식 모델로 정형화한다. 이 모델을 기반으로 “모든 계산이 유한하다”는 종료 조건을 수학적으로 기술한다.
첫 번째 기법은 전통적인 잘 정의된 순서(well‑founded ordering)를 이용한다. 저자는 N, N⁴의 사전식 순서 등 구체적인 순서를 선택하고, 각 프로그램 단계에서 어떤 정량 f : S→P 가 엄격히 감소함을 보임으로써 무한 감소열이 존재할 수 없음을 이용한다. 정리 5.2는 “존재하는 전이‑감소 함수와 잘 정의된 순서가 있으면 프로그램은 반드시 종료한다”는 일반적인 형태를 제시하고, 프로그램 4와 5의 사례를 통해 사전식 순서와 단일 변수 감소를 어떻게 결합할 수 있는지 보여준다.
두 번째 기법은 라무시 정리(Ramsey’s Theorem)를 활용한다. 여기서는 각 단계마다 하나 이상의 변수(또는 변수 함수)가 감소한다는 약한 조건만을 요구한다. 무한 계산이 존재한다면 무한 그래프의 색칠을 정의해 라무시 정리로부터 무한히 같은 색(즉, 같은 변수가 지속적으로 감소)인 무한 부분집합을 얻는다. 이 부분집합에서는 해당 변수 값이 무한히 감소해 결국 음수가 되므로 while‑조건이 깨져 종료가 보장된다. 정리 7.1·7.2는 “각 유한 구간에서 최소 하나의 변수 혹은 변수 함수가 감소한다면 종료한다”는 일반적 명제를 라무시 정리를 통해 증명한다.
세 번째 기법은 행렬 기반 접근법이다. 프로그램의 전이를 정수 행렬로 표현하고, 행렬 곱을 통해 변수들의 선형 변환을 기술한다. 행렬의 스펙트럼이나 순서 보존 성질을 이용해 전이마다 특정 선형 형식이 감소함을 보이면, 다시 잘 정의된 순서와 동일한 논리로 종료를 증명한다. 비록 논문 본문에 상세한 행렬 예제가 제한적이지만, 기존 연구(예: Ben‑Amram 등)와 연계해 자동화 가능성을 강조한다.
전체적으로 논문은 세 기법을 서로 보완적인 관점에서 제시한다. 잘 정의된 순서는 직접적인 감소를 제공하지만 복잡한 프로그램에서는 찾기 어려울 수 있다. 라무시 정리는 “어떤 변수라도 일정 구간에서 감소”라는 약한 조건만으로도 충분함을 보여주어, 비선형·비단조적 전이에도 적용 가능하게 한다. 행렬 기법은 자동화 도구가 전이 시스템을 정량적으로 분석하도록 돕는다. 또한 각 기법이 실제 자동 검증 도구(Loopfrog, Terminator, AProVE 등)에 어떻게 내장되어 있는지를 언급함으로써 이론과 실무를 연결한다.