반선형 자동기의 최소화와 비표준 분할 정제의 한계

초록

정수와 후계자 구조를 원자로 갖는 비동질 집합 위에서, 전이 함수가 반선형인 결정적 유한 자동기의 최소화 알고리즘을 제시한다. 기존의 분할 정제 방식이 수렴하지 않을 수 있음을 보이고, 존재적 프레셈버 산술(분할 술어 포함)의 결정 가능성을 활용해 새로운 최소화 절차를 설계한다.

상세 분석

본 논문은 “정수와 후계자(succ) 연산을 원자(atom)로 하는 비동질 집합”이라는 특수한 구조 위에 정의된 결정적 유한 자동기( DFA )를 연구한다. 일반적인 무한 원자 모델에서는 자동기의 상태와 전이 함수가 무한히 다양해질 수 있기 때문에, 알고리즘적 접근이 거의 불가능해진다. 이를 해결하기 위해 저자들은 전이 함수를 반선형(semilinear) 으로 제한한다. 반선형 집합은 유한 개의 선형 등식·부등식으로 정의되는 정수 벡터들의 유한 합집합이며, 프레셈버 산술에서 핵심적인 역할을 한다.

논문의 핵심 기여는 두 가지이다. 첫째, 반선형 전이 함수를 갖는 자동기에 대해 최소화 절차를 제시한다는 점이다. 기존의 DFA 최소화는 Myhill‑Nerode 관계에 기반한 분할 정제(partition refinement) 알고리즘으로 구현된다. 그러나 저자들은 반선형 자동기에서는 이 절차가 무한히 세분화될 위험이 있음을 구체적인 반례를 통해 증명한다. 즉, 상태 집합을 등가 관계에 따라 나누는 과정이 언제든지 새로운 구분을 생성할 수 있어, 알고리즘이 종료되지 않을 수 있다.

둘째, 이러한 비표준 상황을 극복하기 위해 존재적 프레셈버 산술(Existential Presburger Arithmetic, EPA) with divisibility predicates 의 결정 가능성을 이용한다. EPA는 정수 변수에 대한 선형 방정식·부등식과 나눗셈 술어를 허용한다. 저자들은 자동기의 전이 관계를 EPA 식으로 인코딩하고, 두 상태가 동등한지 여부를 EPA의 만족성 검증으로 환원한다. EPA는 결정 가능하므로, 이 검증을 통해 모든 상태 쌍에 대해 동등성 여부를 결정하고, 이를 기반으로 최소 상태 집합을 구성한다.

구체적인 알고리즘은 다음과 같다. (1) 자동기의 모든 상태를 후보 집합으로 두고, (2) 각 상태 쌍 (p, q)에 대해 “p와 q가 동일한 언어를 인식한다”는 명제를 EPA 식으로 변환한다. (3) EPA 솔버를 이용해 식의 진위값을 판단하고, 동등한 쌍을 하나의 대표 상태로 합친다. (4) 합병 과정이 더 이상 진행되지 않을 때까지 반복한다. 이 과정은 EPA의 결정 가능성에 의해 반드시 종료한다.

또한, 저자들은 이 절차가 다항 시간 혹은 지수 시간 복잡도를 갖는지는 명시적으로 논의하지 않지만, EPA 솔버 자체가 일반적으로 비다항적(PSPACE‑complete)임을 감안하면 전체 최소화 알고리즘도 최악 경우에 고차원 복잡도를 가질 가능성이 있다. 그럼에도 불구하고, 기존의 무한 정수 원자 모델에서 최소화가 불가능하던 문제에 대해 이론적으로 가능한 해결책을 제공한다는 점에서 의미가 크다.

마지막으로, 논문은 반선형 자동기의 표현력과 제한성을 비교한다. 반선형 전이 함수는 프레셈버 산술로 완전히 기술 가능하므로, 정수 연산을 포함하는 많은 실용적 언어(예: 모듈러 카운터, 주기적 패턴)들을 정확히 모델링한다. 그러나 전이 함수가 비반선형이면 EPA로 환원할 수 없으며, 현재 제시된 최소화 기법은 적용되지 않는다. 따라서 반선형이라는 제약이 알고리즘적 접근을 가능하게 하는 핵심적인 역할을 한다는 결론을 내린다.