정수 집합 방정식의 표현력 연구

초록

이 논문은 정수 집합을 미지변수로 하는 방정식 시스템을 조사한다. 합집합·덧셈 연산과 궁극적으로 주기적인 상수를 사용한 경우, 유일해를 갖는 방정식이 표현할 수 있는 집합은 정확히 초산술적 집합(hyper‑arithmetical)이다. 덧셈만으로도 적절한 인코딩을 통해 모든 초산술적 집합을 나타낼 수 있으며, 자연수 집합에 뺄셈 연산을 추가해도 같은 표현력을 유지한다. 해 존재 여부 판단 문제는 각 모델에서 Σ¹₁‑complete임을 보인다.

상세 분석

논문은 먼저 “집합 방정식”이라는 개념을 정형화한다. 여기서 미지변수는 정수(또는 자연수) 부분집합이며, 연산자는 집합 합집합(∪)과 집합 덧셈 S+T={m+n│m∈S,n∈T}이다. 상수는 궁극적으로 주기적인(ultimately periodic) 집합으로 제한한다. 이러한 제한은 전통적인 형식 언어 이론에서 정규·맥시멀리언 언어를 모델링하는 방식과 유사하지만, 여기서는 집합 자체가 값이 되는 2차 구조를 다룬다.

핵심 정리는 “유일해를 갖는 방정식 시스템이 정의할 수 있는 모든 집합은 초산술적 집합이며, 반대로 모든 초산술적 집합을 그런 시스템으로 표현할 수 있다”는 양방향 포함관계이다. 초산술적 집합은 재귀적 가산(Δ¹₁) 집합을 넘어선 복잡도 계층으로, 효과적인 전이 시스템이나 트리 자동화와 연관된다. 논문은 이를 증명하기 위해 두 가지 주요 기법을 사용한다. 첫째, 기존에 알려진 초산술적 집합의 표준 인코딩을 집합 연산으로 변환하는 방법을 제시한다. 여기서는 재귀적 정의를 단계별로 집합 덧셈과 합집합으로 풀어내어, 각 단계가 유한 연산으로 환원될 수 있음을 보인다. 둘째, 반대 방향 증명에서는 임의의 방정식 시스템을 주어진 초산술적 집합의 정의에 매핑함으로써, 시스템이 반드시 그 집합을 고정점으로 갖는다는 것을 보인다. 이 과정에서 고정점 이론과 Kleene‑Brouwer 순서를 활용해 유일성을 확보한다.

덧셈 연산만을 허용하는 경우에도 동일한 표현력을 얻을 수 있다는 결과는 특히 흥미롭다. 논문은 정수 집합을 이진 부호화하고, 각 비트를 별도의 변수 집합에 매핑함으로써 덧셈만으로도 비트‑연산(AND, OR 등)을 시뮬레이션한다. 따라서 복잡한 논리 연산을 모두 합성할 수 있다.

또한, 자연수 집합에 뺄셈 연산 S · − T={m−n│m∈S,n∈T,m≥n}을 추가하면, 표현력은 변하지 않지만 해 존재 판단 문제의 복잡도가 변하지 않음이 증명된다. 이 문제는 Σ¹₁‑complete임이 알려져 있는데, 논문은 이를 reduction을 통해 각 모델에 대해 동일하게 성립함을 보인다. 이는 방정식 시스템이 실제로는 고차 논리(제2차수 체계)와 동등한 힘을 가진다는 의미이다.

마지막으로, 논문은 자유군(free group) 위의 부분집합 방정식에도 결과를 확장한다. 자유군의 원소를 정수 벡터로 인코딩하고, 군 연산을 집합 연산으로 전환함으로써, 앞서 논의한 정수 집합 결과를 그대로 적용할 수 있음을 보여준다. 이는 언어 방정식, 자동화 이론, 그리고 형식 언어의 복잡도 분석에 새로운 관점을 제공한다.

전체적으로 이 연구는 “집합 방정식”이라는 모델이 초산술적 집합 전체를 포괄할 수 있음을 입증함으로써, 기존에 알려진 언어 방정식의 한계를 뛰어넘는 강력한 표현력을 확인한다. 또한, 해 존재 판단 문제의 높은 복잡도는 이러한 시스템이 실용적인 자동화 도구로 사용되기엔 제한이 있음을 시사한다.