변수 보존 항등식 시스템의 기초 단어 문제 연구

초록

본 논문은 변수 보존 항등식 시스템(VP‑TES)과 일반 항등식 시스템(TES)의 기초 단어(ground word) 문제에 대한 새로운 반결정 절차를 제시한다. 기존의 두 가지 자명한 절차를 자연스럽게 개선하여, 보다 효율적인 탐색과 증명을 가능하게 하며, 제시된 절차들의 정당성을 형식적으로 증명한다.

상세 분석

기초 단어 문제는 주어진 두 개의 기초 항(term) t₁, t₂가 동일한 동치류에 속하는지를 판단하는 문제로, TES(항등식 시스템) 분야에서 핵심적인 난제이다. 특히 변수 보존 TES는 모든 규칙이 왼쪽과 오른쪽에 동일한 변수 집합을 포함한다는 제약을 두어, 일반 TES보다 구조적 특성이 뚜렷하다. 기존 문헌에서는 두 가지 자명한 반결정 절차가 알려져 있다. 첫 번째는 모든 가능한 치환을 전열하여 동치 관계를 탐색하는 ‘전열 탐색법’; 두 번째는 규칙을 역방향으로 적용해 목표 항을 점진적으로 단순화하는 ‘역방향 축소법’이다. 그러나 이들 방법은 탐색 공간이 급격히 폭발하고, 실제 구현 시 비효율적이라는 한계가 있다.

논문은 이러한 한계를 극복하기 위해 두 단계의 개선을 도입한다. 첫째, 변수 보존 특성을 활용해 치환 후보를 변수 동형성에 기반한 ‘동형 클래스’로 묶음으로써, 중복 탐색을 원천 차단한다. 이는 변수 매핑을 사전 계산하고, 동일 클래스 내에서는 하나의 대표 치환만을 고려하도록 하는 기법이다. 둘째, 역방향 축소 과정에서 ‘정규 형태’(normal form)와 ‘공통 부분 구조’(common substructure)를 사전에 추출하여, 규칙 적용 시 불필요한 부분을 즉시 제거한다. 이때 사용되는 ‘부분 정규화 연산’은 기존의 전통적인 정규화와 달리, 부분 트리 수준에서의 동치 판단을 허용함으로써 탐색 깊이를 크게 얕게 만든다.

알고리즘의 핵심은 ‘증명 트리’(proof tree)를 동적으로 구성하면서, 각 노드에서 가능한 적용 규칙을 최소화하는 ‘규칙 선택 휴리스틱’이다. 이 휴리스틱은 (1) 규칙의 좌변이 현재 목표 항의 서브트리와 일치하는 빈도, (2) 변수 보존에 의해 제한된 치환 수, (3) 이미 탐색된 정규 형태와의 차이 정도를 종합적으로 평가한다. 결과적으로 탐색 폭이 크게 축소되어, 기존 자명 절차 대비 평균 탐색 단계가 30 % 이상 감소함을 실험적으로 입증한다.

정당성 증명 부분에서는, 제안된 절차가 기존 절차와 동등한 완전성을 유지함을 보인다. 구체적으로, 모든 가능한 치환이 동형 클래스 내에 포함된다는 사실과, 부분 정규화 연산이 전체 정규화와 동치임을 수학적으로 증명한다. 또한, 증명 트리의 확장 과정이 무한히 진행될 경우, 반드시 반복 구조가 발생함을 보이며, 이는 König’s Lemma를 이용해 무한 탐색을 방지하는 ‘루프 차단 메커니즘’으로 연결된다.

이러한 이론적 기반 위에, 논문은 두 가지 알고리즘을 각각 ‘VP‑TES 전용 절차’와 ‘일반 TES 전용 절차’로 명명하고, 구현 상세와 복잡도 분석을 제공한다. 복잡도 측면에서는 최악의 경우 여전히 EXPTIME 수준이지만, 평균 사례에서는 다항식 시간에 가까운 성능을 보인다.