반연속 크기형과 프로그램 종료 검증

초록

**
이 논문은 크기 인덱스를 갖는 타입(크기형)을 이용해 재귀 함수의 종료성을 보장하는 방법을 연구한다. 크기형을 순서수(ordinal)에서 강정규화(term) 집합으로 해석하고, 그 해석 함수가 상반연속(upper semi‑continuous) 하면 해당 타입은 admissible(허용 가능한)으로 간주된다. 이를 기반으로 반연속 함수를 구성하는 규칙들을 제시하고, 고차 종류의 데이터 타입·임프레디케이트 다형성·공동귀환 타입까지 포괄하는 타입 시스템을 설계한다.

**

상세 분석

**
본 연구는 기존의 크기형 기반 종료 검증이 “단조(monotone)”라는 강한 제한에 의존한다는 점을 비판한다. 단조성은 자연스럽게 상한이 존재하는 경우에는 충분하지만, 예를 들어 Eq (GRoseᵢ F A)와 같이 공변·반공변이 뒤섞인 타입에서는 성립하지 않는다. 저자는 이를 해결하기 위해 크기형을 순서수 𝛼에 대한 함수 A(α) 로 보고, 이 함수가 상반연속(lim sup α→λ A(α) ⊆ A(λ))이면 제한된 귀납적 증명에서 한계 순서수 λ에 대해 fix f : A(λ) 를 도출할 수 있음을 보인다. 반대로 하반연속(A(λ) ⊆ lim inf α→λ A(α))은 공변 위치에 필요한 조건이다.

논문은 이러한 연속성 조건을 구성 규칙 형태로 체계화한다. 예를 들어, 함수형 타입 C(α)=A(α)→B(α)는 A가 하반연속, B가 상반연속이면 C도 admissible 하다. 또한, 곱·합·함수·∀·µ·ν 등 모든 타입 연산자에 대해 연속성 보존 법칙을 증명한다. 특히, 고차 종류 F : *→* 에 대해 µX.1+ A×F X 와 같은 고정점 타입을 정의할 때, F가 상반연속이면 전체 타입도 상반연속이 된다.

시맨틱 모델은 “강정규화(term) 집합” 위에 정의된 포화 집합(saturated set) 을 이용한다. 각 타입을 이러한 집합으로 해석함으로써, 모든 타당한 프로그램이 강정규화됨을 보장한다. 이 모델에서 연속성은 집합 간 포함 관계로 표현되며, 이는 형식적 증명에 직접 활용될 수 있다.

마지막으로, 저자는 반연속 타입 계산법을 제시한다. 이는 타입 구문에 연속성 어노테이션을 붙이고, 타입 규칙에 따라 연속성을 추론하는 알고리즘이다. 이를 통해 실제 프로그래밍 언어에 적용 가능한 타입 검사기 구현이 가능함을 시연한다. 전체적으로, 논문은 “단조성 → 연속성”이라는 개념적 전이를 통해 기존 시스템이 배제하던 많은 유용한 타입을 포괄하면서도 종료 보장을 유지하는 새로운 이론적 기반을 제공한다.

**