고차 재귀 경로 순서의 새로운 정의와 적용

초록

본 논문은 고차 타입 시스템에서 사용되는 고차 재귀 경로 순서(HORPO)를 새롭게 재구성한다. 타입 비교를 필요할 때만 수행하도록 설계해 계산 가능성 폐쇄(computability closure)를 제거하고, 바인드 변수 처리를 명시적으로 다룸으로써 임의의 엄격 양성(strictly positive) 귀납 타입에 대한 재귀자를 지원한다. 제안된 정의는 결정 가능(decidable)하며 기존 HORPO와 동등한 정리력을 유지한다.

상세 분석

HORPO는 고차 함수와 타입을 포함하는 rewrite system의 종료성을 증명하기 위한 핵심 도구이다. 기존 정의에서는 모든 함수 기호에 대해 타입 정렬을 미리 계산하고, 특히 고차 변수와 고차 함수 적용 사이의 관계를 다루기 위해 ‘computability closure’라는 복잡한 메커니즘을 도입했다. 이 메커니즘은 이론적으로는 강력하지만 구현상의 복잡성을 크게 증가시켰으며, 바인드 변수의 스코프 관리가 모호해지는 문제를 야기했다. 논문은 이러한 한계를 극복하기 위해 두 가지 주요 전략을 제시한다. 첫째, 타입 비교를 ‘필요 시점’에만 수행하도록 지연(lazy) 전략을 도입한다. 구체적으로, 두 항이 순서 관계에 놓이기 위해서는 그들의 타입이 직접적으로 비교될 필요가 있을 때만 타입 정렬을 호출한다. 이는 불필요한 타입 연산을 회피하고, 결정 가능성을 보장한다. 둘째, 바인드 변수를 명시적으로 다루는 새로운 규칙 집합을 정의한다. 변수 바인딩을 ‘바인드 변수 스코프’와 ‘자유 변수 스코프’로 구분하고, 각각에 대해 순서 관계를 별도 규정함으로써, 재귀자(recursors)와 같은 고차 구조를 정확히 모델링한다. 특히, 엄격 양성 인덕티브 타입의 경우, 생성자와 재귀자가 서로 다른 스코프에서 작용하므로 기존 HORPO에서는 처리하기 어려웠다. 새 정의는 이러한 경우에도 순서 관계를 유지하면서도 종료성을 증명할 수 있게 한다. 논문은 형식적인 정의와 함께, 결정 가능성을 보장하는 알고리즘적 구현 방안을 제시한다. 또한, 기존 HORPO와 비교했을 때 동일한 정리력을 유지함을 정리와 실험을 통해 검증한다. 이 과정에서 타입 정렬의 부분적 연산이 전체 순서 판단에 미치는 영향을 정량적으로 분석하고, 바인드 변수 처리 규칙이 재귀자 정의에 어떻게 적용되는지를 상세히 설명한다. 결과적으로, 제안된 HORPO는 고차 타입 시스템, 특히 Coq나 Agda와 같은 증명 보조기에서 복잡한 인덕티브 정의를 다룰 때 실용적인 도구가 될 것으로 기대된다.