제한선형 명제 스키마의 결정가능성 연구

초록

본 논문은 인덱스가 붙은 명제와 산술 변수 구간 위에서 반복되는 연결자를 도입한 새로운 명제 스키마 논리를 정의하고, 일반적인 경우 만족성 문제가 불가능함을 보인다. 이후 ‘제한선형(bound‑linear)’이라 명명한 스키마 클래스에 대해 만족성 문제가 결정가능함을 증명한다. 이를 위해 ‘정규(regular)’ 스키마로의 변환과, 완전하고 종료되는 증명 절차를 제시한다. 마지막으로 제한선형을 약간 확장한 경우 다시 불가능해짐을 보여, 제한선형이 표현력과 결정가능성 사이의 좋은 절충점임을 강조한다.

상세 분석

논문은 먼저 전통적인 명제 논리의 구문에 두 가지 새로운 차원을 추가한다. 첫 번째는 변수 i, j 등 산술 변수를 이용해 명제 변수에 인덱스를 붙이는 방식으로, 예를 들어 p_i와 같이 i가 자연수 범위 내에서 변할 수 있다. 두 번째는 ‘반복 연결자’를 도입해 ∧{i=0}^{n} φ(i) 혹은 ∨{i=m}^{k} ψ(i)와 같이 구간을 지정하고 그 구간 전체에 걸쳐 동일한 논리 연산을 적용한다. 이러한 확장은 무한히 많은 구체적 명제식들을 하나의 스키마로 압축할 수 있게 하여, 복잡한 회귀적 구조나 파라미터화된 회로 검증 등에 자연스럽게 적용될 수 있다.

하지만 이러한 일반화는 즉시 계산 복잡도에 영향을 미친다. 저자들은 튜링 기계의 동작을 이러한 스키마에 인코딩함으로써, 일반적인 스키마 만족성 문제가 결정불가능함을 증명한다. 구체적으로, 임의의 재귀 함수 f를 정의하는 프로그램을 스키마 형태로 변환하고, 해당 스키마가 만족 가능한지 여부가 f의 정지 문제와 동치가 됨을 보인다. 따라서 무제한적인 인덱스와 구간 반복을 허용하면 논리 자체가 계산적으로 강력해져서 결정가능성을 상실한다.

이러한 부정적 결과를 극복하기 위해 저자들은 ‘제한선형(bound‑linear)’이라는 제한된 서브클래스를 정의한다. 제한선형 스키마는 각 반복 연결자의 구간이 변수 하나에 대해 선형(예: 0 ≤ i ≤ n)으로 제한되고, 인덱스 변수는 서로 독립적이며 중첩되지 않는다. 또한 각 명제 변수는 인덱스에 대해 선형 형태의 식만을 허용한다. 이러한 제약은 스키마가 여전히 풍부한 표현력을 유지하면서도, 구문 구조가 트리 형태로 제한되어 자동화된 전파가 가능하도록 만든다.

제한선형 스키마의 만족성 문제를 해결하기 위해 저자들은 ‘정규(regular)’ 스키마라는 또 다른 형태로 변환한다. 정규 스키마는 모든 반복 연결자를 전개하지 않고도, 각 구간을 고정된 길이의 ‘슬라이스’로 나누어 순환적인 패턴을 식별한다. 변환 과정은 두 단계로 이루어진다. 첫째, 인덱스 변수와 구간을 정규화하여 동일한 형태의 반복을 동일한 심볼로 치환한다. 둘째, 논리식 내부의 부정과 결합을 정규 형태(예: CNF 혹은 DNF)로 변환한다. 이때 중요한 점은 변환이 다항 시간 내에 이루어지며, 스키마의 크기 폭발을 방지한다는 것이다.

정규 스키마에 대해 저자들은 ‘스키마 계산법(schemata calculus)’을 제시한다. 이 계산법은 전통적인 해석적 증명 절차와 유사하게, 반복 연결자를 포함한 식을 단계적으로 단순화하고, 충돌(contradiction) 혹은 만족 가능한 모델을 찾을 때까지 규칙을 적용한다. 핵심 규칙은 (1) 인덱스 구간 축소, (2) 반복 연결자의 부분적 전개, (3) 부정 전파, (4) 합성 규칙이다. 모든 규칙은 사전 정의된 순서대로 적용되며, 적용 불가능한 경우 종료한다. 저자들은 이 절차가 완전하고 종료함을 증명한다. 즉, 제한선형 스키마가 만족 가능하면 절차는 모델을 찾아내고, 불가능하면 모순을 도출한다.

마지막으로 제한선형을 약간 확장한 ‘제한다항(bound‑polynomial)’ 스키마를 고려한다. 여기서는 구간이 2차 혹은 그 이상의 다항식 형태로 정의될 수 있다. 저자들은 이러한 확장이 다시 불가능성을 초래함을 보인다. 구체적으로, 다항 구간을 이용해 두 개 이상의 인덱스 변수를 동시에 조작하면, 이전에 불가능했던 복잡한 Diophantine 방정식들을 인코딩할 수 있게 된다. 따라서 만족성 문제는 일반적인 정수 논리식의 만족성 문제와 동치가 되며, 이는 이미 알려진 불가능성 결과와 연결된다.

전체적으로 논문은 표현력과 계산 가능성 사이의 경계를 정밀하게 탐구한다. 제한선형 스키마는 실용적인 응용(예: 파라미터화된 회로 검증, 무한 상태 시스템 모델링)에서 충분히 강력하면서도, 자동화된 도구가 적용될 수 있는 결정가능한 영역을 제공한다. 반면, 작은 확장은 즉시 불가능성을 초래함을 보여, 설계자가 스키마를 정의할 때 신중히 제약을 선택해야 함을 시사한다.