다형성 타입 시스템을 찾는 두 알고리즘

초록

본 논문은 기존 ATR(Affine Type Recursion) 체계가 허용하던 꼬리 재귀만을 확장하여, 보다 일반적인 선형(affine) 재귀를 직접 기술할 수 있게 만든다. 이를 통해 삽입 정렬·선택 정렬과 같은 전통적인 정렬 알고리즘을 자연스럽게 표현하면서도, 모든 프로그램이 2차 타입 수준에서의 다항 시간(타입‑2 폴리노미얼 타임) 안에 머물도록 새로운 시간 복잡도 의미론을 정교화한다.

상세 분석

ATR은 호출‑값(call‑by‑value) PCF에 복합적인 복잡도 기반 타입 시스템을 입힌 언어로, 타입 레벨 0, 1, 2만을 허용한다. 레벨 0은 기본값, 레벨 1은 1차 함수, 레벨 2는 2차 함수(즉, 함수 자체를 인자로 받는 고차 함수)를 의미한다. 기존 ATR에서는 재귀를 허용하더라도 꼬리 재귀 형태에 국한돼, 재귀 호출이 반환값 바로 뒤에 위치해야만 타입 검증을 통과했다. 이 제한은 삽입 정렬·선택 정렬처럼 재귀 호출 후에 추가적인 연산(예: 원소 삽입, 비교)을 수행해야 하는 알고리즘을 표현하지 못하게 만들었다.

논문은 “affine recursion”이라는 새로운 구문을 도입한다. 여기서 affine는 각 재귀 호출이 실행 흐름에서 최대 한 번만 사용될 수 있음을 의미한다(선형 논리의 사용 제한과 유사). 구문적으로는 letrec f x = e 형태에서 e 안에 f를 호출하는 위치가 자유롭게 배치될 수 있지만, 타입 규칙은 호출이 사용되는 컨텍스트가 “affine”임을 보장하도록 설계된다. 구체적으로, 타입 환경에선 변수와 함수에 대해 사용 횟수를 추적하는 ‘usage annotation’를 도입하고, 재귀 본문에서 f가 사용될 때마다 해당 사용이 선형(한 번)임을 검증한다.

시간 복잡도 의미론은 기존 ATR의 “time‑complexity semantics”를 확장한다. 핵심 아이디어는 각 표현식에 대해 “잠재 비용(potential cost)”과 “실제 비용(actual cost)”을 쌍으로 매핑하고, affine 재귀 호출이 발생하면 잠재 비용을 재귀 깊이에 따라 선형적으로 누적하도록 정의한다. 이를 위해 재귀 함수의 타입에 ‘잠재 비용 함수’를 포함시켜, 입력 크기에 대한 상한을 다항식 형태로 명시한다. 증명에서는 (1) 모든 affine 재귀가 잠재 비용을 초과하지 않음, (2) 잠재 비용이 레벨 2 타입의 폴리노미얼 제한 안에 머무름을 귀납적으로 보인다.

이러한 메커니즘을 통해 삽입 정렬과 선택 정렬을 ATR로 직접 기술한다. 삽입 정렬의 경우, 리스트를 재귀적으로 분할하고, 각 단계에서 insert 함수를 호출해 현재 원소를 정렬된 부분 리스트에 삽입한다. insert 자체는 1차 함수이며, 삽입 과정에서 발생하는 비교 연산은 선형 사용 제한을 만족한다. 선택 정렬은 최소 원소를 찾는 min 함수를 재귀적으로 호출하고, 찾은 원소를 앞쪽에 배치하는 과정을 반복한다. 두 알고리즘 모두 기존 꼬리 재귀만으로는 표현이 불가능했으나, affine 재귀 도입으로 자연스럽게 구현 가능해졌다.

마지막으로 논문은 기존 암시적 복잡도 체계(예: Bellantoni‑Cook, safe recursion)와 비교한다. 대부분의 이전 체계는 재귀 형태를 엄격히 제한하거나, 복잡도 보장을 위해 인덱스와 정상 부분을 명시적으로 구분해야 했다. 반면, 확장된 ATR은 타입 수준에서만 제한을 두고, 프로그래머가 일반적인 함수형 스타일로 알고리즘을 작성하도록 허용한다. 이는 실용적인 프로그래밍 언어 설계에 중요한 진전으로 평가될 수 있다.