부분성 및 재귀와 고차 논리

초록

본 논문은 부분 함수와 일반 재귀 함수를 직접 정의할 수 있는 고차 논리 체계 I_s를 제시한다. I_s는 서브타이핑과 기본 귀납형을 포함하며, 종료 증명이 없는 함수도 다룰 수 있는 메커니즘을 제공한다. 일관성 증명과 1차 논리 보존성 결과를 포함한다.

상세 요약

I_s 체계는 전통적인 고차 논리(HOL)의 한계를 극복하기 위해 “불완전함(illative)”이라는 개념을 도입한다. 기존 HOL에서는 모든 정의된 함수가 강제적으로 전역적으로 정의되고, 재귀 함수는 반드시 구조적 귀납에 의해 종료가 증명돼야만 허용된다. 반면 I_s는 정의된 함수가 부분적일 수 있음을 허용하고, 재귀 정의에 대해 사전적인 종료 검증 없이도 체계 내에 포함시킨다. 이를 위해 서브타이핑 메커니즘을 활용해 타입을 더 세분화하고, 기본 귀납형(예: 자연수, 리스트, 트리 등)을 내장함으로써 귀납적 정의와 연산을 자연스럽게 표현한다.

핵심 기술은 “partiality”와 “recursion”을 동시에 다루는 규칙 집합이다. 부분 함수는 정의역이 전체가 아니라는 점에서 전통적인 전함 함수와 구분되며, I_s는 이러한 부분 함수를 ‘undefined’ 상태로 명시적으로 표시할 수 있는 전용 연산자를 제공한다. 재귀 함수에 대해서는 고정점 연산자를 도입해, 정의가 무한히 진행될 경우에도 일관된 의미론적 해석을 유지한다. 특히, 함수의 정의가 무한 루프에 빠지는 경우에도 시스템은 “non‑terminating”이라는 특수 값을 부여해 논리적 모순을 방지한다.

논문은 모델 구축을 통한 일관성 증명을 제시한다. 구체적으로, 각 타입에 대해 부분 순서 집합(partial order set)과 완전 격자(complete lattice)를 구성하고, 함수 해석을 이 격자 위의 연속 함수로 정의한다. 이렇게 하면 부분 함수와 무한 재귀 함수 모두가 최소 고정점(minimum fixed point)으로 해석될 수 있어, 전통적인 귀납적 증명 없이도 체계의 모순이 없음을 보인다.

또한, I_s가 1차 고전 논리 위에 보존(conservative)임을 증명한다. 이는 I_s의 증명 규칙이 1차 논리의 정리들을 새롭게 도출하지 않으며, 기존 1차 논리의 정리들은 그대로 I_s에서도 유효함을 의미한다. 고차 논리 보존성은 아직 증명되지 않았지만, 저자들은 이를 위한 초석으로서 모델 이론적 접근을 제시하고 있다.

마지막으로, 논문은 실제 프로그램 검증에 적용 가능한 사례들을 제시한다. 예를 들어, 부분적으로 정의된 정렬 함수, 무한 스트림 생성 함수, 그리고 종료가 증명되지 않은 탐색 알고리즘 등을 I_s 내에서 정의하고, 그 속성(정확성, 부분적 정의 영역 등)을 논리적으로 증명한다. 이러한 사례는 I_s가 형식적 검증 도구로서 실용적 가치를 가짐을 보여준다.