유한·무한 트리 이론 재조명

본 논문은 “유한·무한 트리 이론”을 재조명하고, 기존 Maher가 제시한 이론 T 에 fini(t) 관계를 추가함으로써 트리의 유한성을 명시적으로 구분할 수 있는 확장 이론 T 을 정의한다. 서론에서는 트리 구조가 데이터 구조, 프로그램 스키마, 실행 모델 등 컴퓨터 과학 전반에 걸쳐 핵심적인 역할을 함을 강조하고, Herbrand, Robinson, Paterson‑Wegman, Martelli‑Montanari 등 선행 연구들을 정리한다. 특히, 기존의 결정 절차는 자유 변수가 포함된 복합 제약식에 대해 명시적인 해를 제공하지 못하고, 때로는 항상 참이거나 거짓인 식을 잘못된 형태로 반환한다는 한계를 지적한다. 2장에서는 트리의 형식적 정의를 제시한다. 라벨 집합 L 과 각 라벨의 차수를 기반으로 위치 p (양의 정수열)와 노드 (p, l) 을 정의하고, 트리를 노드 집합 N 의 부분집합으로 기술한다. 유한 트리, 무한 트리, 그리고 유한 부분트리 집합을 갖는 합리적(rational) 트리를 구분한다. 또한, 트리의 구성 연산 l_D 을 정의하여, n-아리 라벨 l 에 대해 n개의 서브트리를 결합하는 방식으로 트리를 생성한다. 3장에서는 확장 이론 T 의 공리 체계를 제시한다. 기존 Maher 이론의 다섯 개 공리에 더해, (i) ∀x fini(x) → ¬ ∃y x = f(y) (무한 트리에서는 fini 불가능)와 (ii) ∀x ¬fini(x) → ∃y x = f(y) (무한 트리는 적어도 하나의 자식이 존재)와 같은 두 개의 새로운 공리를 추가한다. 이러한 공리를 만족하는 모델을 구성하기 위해, 노드 집합 N 과 fini 관계를 정의하고, 유한 트리와 무한 트리를 각각 fini 참·거짓으로 매핑한다. 이를 통해 T가 적어도 하나의 모델을 갖는다는 존재성을 증명한다. 4장에서는 제약 해결 알고리즘의 핵심을 다룬다. 먼저 “작업식(work­ing formula)”이라는 중간 표현을 정의하고, 자유 변수와 양화 변수의 도달 가능성(reachable) 개념을 도입한다. 작업식은 기존의 5개 규칙을 확장한 16개의 재작성 규칙으로 변환된다. 주요 규칙은 다음과 같다. 1) 동등식·부등식 정규화: x = f(y₁,…,yₙ) 형태를 분해하고, 변수 종속성을 그래프 형태로 표현한다. 2) fini 조건 전파: fini(t) 가 존재하면 t의 모든 서브트리가 유한함을 강제하고, 이를 통해 무한 트리와의 충돌을 탐지한다. 3) 양화 변수 제거: 존재 변수는 해당 변수에 대한 구체적 대입식(예: y = f(z))으로 치환하고, 보편 변수는 부정 형태로 전환한다. 4) 충돌 감지: 동일 변수에 대해 서로 모순되는 동등식(예: x = f(y) ∧ x = g(z))이 발생하면 즉시 false 로 귀결한다. 5) 일반 해결식(general solved formula) 식별: 더 이상 규칙 적용이 불가능하고, 양화 변수가 모두 도달 가능하지만 제거 불가능한 경우를 식별한다. 이 과정을 거쳐 원래의 제약식 φ 은 논리적으로 동등한 ψ 의 합(disjunction) 형태로 변환된다. ψ 는 세 가지 경우 중 하나이다. (a) true — 모든 경우에 만족, (b) false — 불가능, (c) 자유 변수를 포함하는 “단순 형식” — 변수에 대한 명시적 해(예: x = f(a) ∧ fini(a))가 제공된다. 저자는 각 규칙의 보존성을 귀납적으로 증명하고, 최종적으로 얻어지는 ψ 가 원래 φ 와 동치임을 보임으로써 이론 T 의 완전성을 확보한다. 5장에서는 구현 및 실험 결과를 제시한다. CHR 버전은 규칙 기반 언어의 장점을 살려 빠른 프로토타이핑과 동시성 확장을 가능하게 하며, C++ 버전은 메모리 효율과 실행 속도에서 우수한 성능을 보인다. 실험에서는 80개의 중첩 양화자를 포함하는 두 사람 게임 사례와, 기존 논문에서 제시된 다양한 제약식(동등식·부등식·fini 조합)을 대상으로 실행 시간을 비교하였다. 결과는 C++ 구현이 가장 빠르지만, CHR 구현도 실용적인 수준을 유지했으며, 두 구현 모두 기존 분해 가능 이론 기반 결정 절차보다 동일하거나 더 나은 성능을 보였다. 특히, 자유 변수가 포함된 복합 제약식에 대해 명시적인 해를 제공함으로써, 단순 true/false 판단을 넘어 실제 해석 가능한 결과를 얻을 수 있었다. 결론에서는 확장 이론 T 와 16개의 재작성 규칙 기반 제약 해결기가 유한·무한 트리 문제에 대해 완전하고 실용적인 해법을 제공함을 강조한다. 향후 연구로는 더 복잡한 데이터 구조(예: 그래프, 하이퍼트리)로의 확장, 병렬/분산 구현, 그리고 정적 분석 도구와의 연계 등을 제시한다.