HOAS와 자연수 사이의 전단사 자동 생성

초록

본 논문은 고차 추상 구문(HOAS)과 자연수 사이의 전단사(bijection)를 자동으로 생성하고, Twelf 환경에서 그 정당성을 기계적으로 증명하는 방법을 제시한다. 이를 통해 용어 간 “≠” 관계 정의, 용어 집합 및 맵 구현이 가능해지며, 라이브러리 형태로 재사용할 수 있다.

상세 요약

이 연구는 HOAS를 사용한 언어 메타프로그래밍에서 흔히 마주치는 “동형성” 문제를 해결한다. HOAS는 바인딩 구조를 메타레벨 함수로 표현함으로써 변수 캡처와 α‑동등성을 자동으로 처리하지만, 전통적인 논리 프로그래밍 시스템에서는 두 용어가 서로 다른지 판단하거나, 용어들의 집합을 효율적으로 관리하기가 어렵다. 저자는 이러한 한계를 극복하기 위해 “용어 ↔ 자연수” 전단사를 구성한다. 전단사는 전사와 단사 두 성질을 동시에 만족하므로, 각 HOAS 용어에 고유한 자연수 코드를 부여하고, 그 역함수를 통해 코드를 다시 용어로 복원할 수 있다. 핵심 아이디어는 구조적 재귀를 이용해 복합형식(예: 함수형, 리스트형, 트리형 등)의 크기를 측정하고, Cantor‑pairing 같은 기본 전단사 연산을 조합해 전체 용어를 하나의 정수로 인코딩한다는 것이다.

Twelf는 LF 기반의 논리 프레임워크로, 타입 이론과 증명 검증을 통합한다. 논문에서는 Twelf 메타언어로 전단사 생성기를 구현했으며, 자동 생성된 전단사에 대해 “전사성”(every natural number corresponds to some term)과 “단사성”(different terms map to different numbers) 두 가지 정리의 기계 증명을 제공한다. 특히, 전사성을 보이기 위해서는 모든 가능한 형태의 HOAS 용어를 포괄하는 귀납적 정의가 필요하고, 단사성을 보이기 위해서는 구조적 차이를 자연수 코드의 차이로 전이시키는 복합적인 레이아웃 검증이 요구된다.

또한, 저자는 전단사 생성기를 활용한 집합·맵 라이브러리를 공개한다. 이 라이브러리는 임의의 타입 T에 대해 전단사(T ↔ ℕ)가 존재하면, T‑집합을 비트셋 형태로, T‑맵을 함수형 배열 형태로 자동 구성한다. 따라서 사용자는 별도의 인코딩 로직을 작성할 필요 없이, 전단사 선언만으로 효율적인 데이터 구조를 즉시 이용할 수 있다.

기술적 난점으로는 (1) 바인딩을 포함한 고차 함수형 구조를 자연수에 매핑할 때, 자유 변수와 바인딩 변수의 구분을 유지해야 하는 점, (2) 무한 재귀 타입에 대한 정밀한 크기 측정이 필요함에도 불구하고, Twelf의 제한된 메타연산만으로 이를 구현해야 하는 점을 들 수 있다. 저자는 이러한 문제를 해결하기 위해 “스코프 레벨 인코딩”과 “정규형 정리”를 도입해, 바인딩 깊이를 자연수의 고유 비트 패턴에 포함시키고, 재귀 타입은 피보나치‑코딩과 유사한 가변 길이 인코딩으로 처리한다.

결과적으로, 전단사 생성기는 HOAS 기반 정의를 기존의 집합·맵 연산과 원활히 결합시켜, 형식 검증, 프로그램 변환, 메타프로그래밍 등 다양한 분야에서 활용 가능성을 크게 확장한다.