지수 연산 부분 이론의 통일 문제 해결

초록

본 논문은 모듈러 지수 연산과 두 개의 곱셈 연산자를 포함하는 부분 이론에 대해 통일 문제의 결정 가능성을 조사한다. 곱셈 연산자에 추가적인 대수적 제약을 두지 않을 때는 통일이 결정 가능함을 증명하고, 반면 두 곱셈 연산자가 서로 다른 아벨 군을 형성한다는 가정을 추가하면 통일 문제가 불가능함을 보인다.

상세 분석

논문은 먼저 모듈러 지수 연산을 부분적으로 모델링한 이론 T를 정의한다. T는 기본 연산자로서 지수화 함수 exp(x, y)와 두 개의 독립적인 곱셈 연산자 ·₁, ·₂를 포함한다. 여기서 중요한 점은 ·₁과 ·₂에 대해 어떠한 동치식도 가정하지 않으며, 따라서 각각은 완전히 자유로운 이항 연산으로 취급한다는 것이다. 이러한 설정은 실제 암호 프로토콜에서 서로 다른 모듈러 곱셈(예: 서로 다른 소수 모듈러)과 지수 연산이 동시에 등장하는 상황을 추상화한다.

첫 번째 주요 결과는 T에 대한 통일 문제(Unification Problem)가 결정 가능함을 보이는 것이다. 저자들은 기존의 고전적인 단일 이론 통일 알고리즘(예: 마시-오레일리(Maude‑Orielly) 방식)을 확장하여, 지수 연산과 두 곱셈 연산자를 동시에 다룰 수 있는 전용 규칙 집합을 설계한다. 핵심 아이디어는 exp(x, y) = z 형태의 식을 변형할 때, y가 곱셈 연산자·₁ 혹은·₂에 의해 구성된 항이라면 이를 선형 형태로 분해하고, 각 곱셈 연산자를 독립적인 변수 집합으로 취급함으로써 충돌을 방지한다. 또한, 변수 발생 순서를 엄격히 관리하는 ‘정규형 변환’ 절차를 도입해 무한 탐색을 차단하고, 모든 경우에 대해 유한한 탐색 트리를 보장한다. 복잡도 분석에서는 최악의 경우에도 탐색 트리의 깊이가 입력 식의 크기에 선형적으로 제한됨을 증명한다.

두 번째 결과는 T에 추가적인 대수적 제약을 부여했을 때 통일 문제가 급격히 복잡해진다는 점이다. 구체적으로, ·₁과·₂가 각각 서로 다른 아벨 군(즉, 결합법칙, 항등원, 역원, 교환법칙을 만족) 구조를 형성한다는 가정을 도입한다. 이 경우, 저자들은 기존의 결정 가능성 증명에 사용된 변수 분리 기법이 깨지며, 오히려 이론은 자연스럽게 2‑정리(2‑SAT) 이상의 복잡성을 내포하게 된다. 이를 증명하기 위해, 저자들은 잘 알려진 무한 포스트 태그 시스템(POST correspondence problem) 혹은 라무다-테레시(λ‑calculus)와의 차감적 환원(reduction)을 구성한다. 결과적으로, 두 아벨 군이 동시에 존재하는 상황에서는 통일 문제 자체가 튜링 완전함을 갖는 것으로 귀결되어, 일반적인 알고리즘으로는 해결이 불가능함을 보인다.

이러한 두 결과는 암호학적 프로토콜 설계 시, 연산자 간의 대수적 관계를 어떻게 제한하느냐에 따라 형식 검증 가능성이 크게 달라진다는 실용적 교훈을 제공한다. 특히, 서로 다른 모듈러 연산을 동시에 사용하는 키 교환 프로토콜에서는 통일 기반 자동 검증 도구의 적용 가능성을 사전에 평가할 필요가 있음을 시사한다.