교차 타입과 카운팅

초록

본 논문은 비결정적 고차 재귀 스키마(HORS)의 언어 유한성 문제를 해결하기 위해, 플래그와 마커를 이용한 새로운 교차 타입 시스템을 제안한다. 파생 트리에 배치된 플래그 수가 생성 가능한 유한 트리의 크기와 일대일 대응함을 보이며, 파생 트리의 플래그가 무한히 늘어날 수 있는지 여부를 판정함으로써 원 문제를 결정 가능하게 만든다.

상세 분석

이 연구는 기존에 HORS와 λY-계산식의 Böhm 트리를 이용해 프로그램 흐름을 모델링하던 전통적 접근법에, “플래그”와 “마커”라는 두 종류의 메타데이터를 도입한 교차 타입 시스템을 결합한다는 점에서 혁신적이다. 플래그는 특정 순서(order)의 “생산적” 노드를 표시하고, 마커는 해당 순서보다 낮은 레벨에서 선택된 경로를 지정한다. 논문은 복잡도(complexity) m을 가진 λ‑term에 대해, 각 순서 n(0≤n≤m)마다 최대 하나의 마커와 무제한의 플래그를 배치할 수 있음을 보인다.

핵심 아이디어는 다음과 같다. 복잡도 0인 term은 자체가 Böhm 트리이므로, 원하는 유한 트리의 모든 노드에 순서 0 플래그를 달면 그 트리의 크기가 플래그 수와 정확히 일치한다. 복잡도 1인 term에서는 동일한 플래그를 직접 달면 중복 사용으로 인해 크기와 불일치할 수 있다. 이를 해결하기 위해 마커(순서 0)를 하나 선택하고, 그 마커까지의 경로에 순서 1 플래그를 배치한다. 이렇게 하면 플래그 수는 실제 트리의 깊이와 일대일 대응하게 된다. 복잡도 2, 3…에 대해서도 같은 방식으로 마커와 플래그를 계층적으로 배치함으로써, 높은 순서의 플래그 수가 낮은 순서의 플래그·마커 배치에 의해 제한되지 않도록 설계한다.

형식적으로는 각 정렬 α에 대해 타입 집합 Tα와 전체 타입 Fαk(플래그 집합 F, 마커 집합 M, 기본 타입 τ)를 정의하고, 판단식 Γ⊢P:ˆτ⊲c를 통해 파생 트리의 플래그 카운터 c를 추적한다. 규칙들은 변수, 적용, 추상화, 그리고 Y‑연산자에 대해 전통적인 교차 타입 규칙에 플래그·마커 전파 조건을 추가한다. 특히, 적용 규칙에서는 인수 타입들의 플래그 집합을 합치고, 마커가 존재하면 상위 플래그를 한 단계 상승시켜 중복을 방지한다.

주요 정리는 “P가 무한히 큰 유한 트리를 생성할 수 있다 ⇔ P에 대한 파생 트리에서 플래그 카운터가 무한히 커질 수 있다”이며, 이는 플래그 카운터가 자연수값을 갖는 유한 자동화(또는 선형 순서 논리)로 변환 가능함을 의미한다. 따라서 원래의 언어 유한성 문제는 플래그 카운터의 상한 존재 여부를 검사하는 결정 문제로 환원된다. 이 환원 과정은 복잡도 m에 대해 선형 시간(또는 다항 시간)으로 수행될 수 있음을 논문은 증명한다.

이 접근법은 기존의 대각선 문제 해결 알고리즘