우변 평탄 규칙과 순열 이론을 통한 재작성 종료성 결정

초록

본 논문은 우변이 평탄(깊이 1)하고 선형인(변수 중복 없음) 규칙으로 구성된 TRS에 대해, 순열 이론(교환·결합 등) 모듈로의 종료와 내부 종료가 결정 가능함을 보인다. 또한 우변이 평탄하지만 선형성은 요구하지 않는 경우에도 비종료 파생을 시작점으로부터 탐색하는 문제가 결정 가능함을 증명한다. 반면, 우변이 얕고 선형인 경우 종료성·내부 종료성은 PSPACE‑hard이며, 평탄 TRS에 대해서는 종료성이 불가능함을 보여준다.

상세 분석

이 논문은 “permuta­tive theories”(즉, 변수 순열에 의해 닫힌 동치관계, 대표적으로 교환법칙과 결합법칙) 아래에서의 term rewriting system(TRS) 종료성을 연구한다. 기존 연구는 전역적인 종료성(decidability) 문제를 일반적인 TRS에 대해 거의 불가능하다고 알려져 있으나, 규칙의 구조적 제한을 두면 결정 가능성을 얻을 수 있다. 여기서 저자들은 두 가지 핵심적인 제한을 도입한다. 첫째, 오른쪽(우변) 규칙이 flat—즉, 변수와 상수만이 깊이 1에 위치하고, 그 이하에 복합함수가 등장하지 않는다—라는 형태이다. 둘째, right‑linear(우변 선형) 혹은 shallow(변수 깊이 ≤1)이라는 추가 조건을 고려한다.

논문의 첫 단계는 shallow TRS를 flat TRS로 변환하는 과정이다. 변환 과정은 각 우변의 서브트리를 새로운 함수 기호와 상수로 치환하면서, 원래 시스템과 동치인 변환 시스템을 만든다. 중요한 점은 이 변환이 종료성과 내부 종료성을 보존한다는 것이며, 따라서 이후 분석은 평탄 시스템에만 집중할 수 있다.

다음으로 저자들은 right‑flat & right‑linear TRS에 대해 두 가지 주요 정리를 제시한다. (a) 비종료 파생이 존재한다면, 반드시 flat term(모든 함수 기호가 깊이 0 혹은 1인 항)에서 시작되는 비종료 파생이 존재한다는 것. 이는 비종료 증명을 위한 탐색 공간을 유한하게 만들며, 결국 자동화된 탐색 알고리즘을 설계할 수 있게 한다. (b) 우변이 평탄하지만 선형성을 요구하지 않을 경우에도, 주어진 시작 항으로부터 비종료 파생이 존재하는지를 결정할 수 있다. 이는 reachability 문제를 제한된 형태의 전이 시스템으로 환원하고, 그 전이 시스템이 유한 상태 기계와 동등함을 이용한다.

복잡도 측면에서, 저자들은 shallow & right‑linear TRS에 대한 종료성·내부 종료성 문제가 PSPACE‑hard임을 보인다. 이는 기존에 알려진 word problem for semi‑Thue systems와의 다중환산을 통해 증명된다. 반면, flat TRS에 대해서는 종료성 자체가 undecidable함을 증명한다. 여기서는 Post correspondence problem을 평탄 규칙 형태로 인코딩함으로써, 무한 파생을 생성할 수 있는지 여부가 원 문제와 동치임을 보인다.

결과적으로, 논문은 “우변 평탄 + 선형”이라는 제한이 있을 때는 종료성 판단이 이론적으로 가능하고, 실제 알고리즘 구현도 가능함을 제시한다. 그러나 이 제한을 완화하면 복잡도는 급격히 상승하거나 완전히 결정 불가능해진다. 이러한 경계선은 TRS 설계 시 규칙 구조를 어떻게 제한할 것인가에 대한 실용적인 가이드라인을 제공한다. 또한, permutative theory와의 모듈 연산이 기존 종료성 판정 기법에 큰 영향을 미치지 않으며, 오히려 congruence closure와 결합해 효율적인 검증 도구를 설계할 여지를 남긴다.