고차 재작성 시스템을 위한 강한 계산성 기반 정적 의존쌍 방법

초록

본 논문은 단순 타입 재작성 시스템(STRS)에서 제안된 강한 계산성 기반 정적 의존쌍(Static Dependency Pair, SDP) 방법을 고차 재작성 시스템(HRS)으로 확장한다. λ‑추상화를 허용하도록 정적 의존쌍을 재구성하고, ‘평범한 함수 전달(Plain Function‑Passing)’이라는 제한 하에 새로운 제한 없이도 정적 분석이 가능함을 증명한다. 강한 계산성, 서브텀 기준, 감소쌍을 이용해 정적 재귀 구성요소의 비순환성을 보이며, 기존 동적 의존쌍 방법이 실패하던 sqsum 예제를 성공적으로 종료 증명한다.

상세 분석

이 연구는 고차 함수와 λ‑추상화를 직접 다룰 수 있는 HRS에 대해, 기존 STRS 전용 정적 의존쌍 방법을 그대로 적용할 수 없다는 근본적인 한계를 인식한다. HRS는 함수 본문에 자유 변수 대신 고차 변수(예: F)가 등장할 수 있어, 동적 의존관계 분석에서는 무한히 복잡한 호출 그래프가 생성된다. 저자들은 이러한 복잡성을 피하기 위해 ‘정적’ 의존관계, 즉 정의 자체에서 추출 가능한 의존쌍만을 고려한다. 핵심 아이디어는 강한 계산성(Strong Computability, SC) 을 활용해, 어떤 항이 모든 인자에 대해 SC이면 그 항 자체도 SC임을 보이는 귀납적 정의를 이용하는 것이다. SC는 단순히 종료성을 의미하지 않고, 모든 타입에 대해 정규화가 보장되는 더 강력한 성질이므로, SC를 만족하는 항은 언제든지 재작성 과정에서 정상 형태로 수렴한다는 보장을 제공한다.

논문은 먼저 SC의 기본 성질을 정리한다. 특히 (1) 모든 기본 타입 항이 SC이면 그 항은 종료한다, (2) 함수 타입 항이 SC가 아니면 특정 인자를 적용했을 때도 SC가 아니게 되는 ‘반례 존재성’ 등을 증명한다. 이러한 성질은 정적 의존쌍의 사운드성을 입증하는 데 필수적이다.

다음으로 Plain Function‑Passing (PFP) 라는 제한을 정의한다. PFP는 왼쪽 항(l)에서 등장하는 모든 고차 변수는 오른쪽 항(r)의 인자 위치에 그대로 전달될 뿐, 새로운 함수 호출이나 복잡한 조합으로 변형되지 않음을 의미한다. 이를 통해 정의된 함수 심볼이 오른쪽 항에 나타나지 않더라도, 안전한 서브항(safe subterms) 집합을 통해 정적 의존쌍을 구성할 수 있다. 저자들은 ‘safe(l)’ 집합을 정밀히 정의하고, 이 집합에 속하는 모든 서브항이 SC이면 전체 규칙이 SC를 유지한다는 보조 정리를 제시한다.

정적 의존쌍 자체는 규칙 l→r에서 ‘정의된 심볼(defined symbol)’이 머리 기호인 서브항을 마킹(♯)하여 추출한다. HRS에서는 λ‑추상화가 포함될 수 있기 때문에, 마킹 과정에서 λ‑바디 내부의 정의된 심볼도 고려한다. 이렇게 얻어진 정적 의존쌍은 동적 의존쌍에 비해 수가 현저히 적으며, 예시인 R_sqsum에서는 9개의 동적 의존쌍이 3개의 정적 의존쌍으로 축소된다.

정적 재귀 구성요소(static recursion components, SRC)의 비순환성을 보이기 위해 두 가지 전통적인 기법을 차용한다. 첫째, 서브텀 기준(Subterm Criterion) 은 각 의존쌍 (s♯ → t♯) 에 대해 s의 어떤 서브텀이 t보다 ‘작다’는 관계를 정의한다. 저자들은 기존 기준을 확장해 λ‑추상화와 고차 타입을 포함하도록 하였으며, 모든 SRC가 이 기준을 만족함을 증명한다. 둘째, 감소쌍(Reduction Pair) 은 잘 정의된 순서(≥)와 그에 대한 엄격한 부분 순서(>) 를 이용해 의존쌍을 정렬한다. HRS에 맞게 β‑η 정규형을 고려한 변형을 도입해, 감소쌍이 존재하면 해당 SRC는 비순환임을 보인다.

마지막으로, 논문은 전체 방법론의 사운드성을 정리한다. PFP와 SC를 전제로, 정적 의존쌍과 SRC가 모두 비순환이면 HRS 전체가 강하게 정규화된다(즉, 모든 항이 종료한다). 이를 통해 기존 동적 방법이 실패하던 sqsum 예제의 종료성을 간단히 증명한다. 또한, 새로운 제한 없이도 STRS와 동일한 수준의 일반성을 유지함을 강조한다.

이 연구는 HRS의 복잡한 고차 구조를 정적 분석으로 효과적으로 다루는 새로운 프레임워크를 제공한다. 강한 계산성이라는 이론적 토대를 활용함으로써, 정적 의존쌍이 실제 프로그램 검증에 적용 가능함을 보였으며, 향후 자동화 도구에 직접 통합될 여지를 크게 열어준다.