정규 트리·선형 순서·단어 동형성 문제의 복잡도 전격 분석

초록

정규 언어를 NF·DFA 로 표현했을 때 정규 트리의 동형성 검사는 NFA 경우 EXPTIME‑완전, DFA 경우 P‑완전이며, 비순환 NFA 로 나타낸 유한 트리는 PSPACE‑완전이다. 또한 DFA 로 주어진 정규 선형 순서와 정규 단어의 동형성은 다항시간에 해결 가능하고, 이 문제는 P‑완전임을 보였다.

상세 분석

이 논문은 자동 구조 이론과 복잡도 이론을 교차시켜, ‘정규 트리’와 ‘정규 단어(선형 순서)’라는 두 종류의 무한하지만 유한히 기술 가능한 구조에 대한 동형성 판단 문제의 정확한 복잡도 경계를 제시한다. 먼저 트리 부분에서는 정규 언어 L⊆Σ* 를 받아들이는 NFA·DFA 를 이용해 접두사 순서(pre‑order) 트리를 구성한다. DFA 로 주어진 경우, 트리의 각 노드가 상태 하나에 대응하므로, 두 트리의 동형성은 상태 간의 동등 관계를 파티션 정제(partition refinement) 알고리즘으로 다항시간에 판정할 수 있다. 이는 유한 상태 시스템의 bisimulation 검사와 동일한 절차이며, 결과적으로 DFA 입력에 대해 P‑complete임을 보인다. 반면 NFA 로 표현하면 상태 집합이 비결정적이므로, 동형성 검사는 지수적인 상태 조합을 고려해야 한다. 저자는 EXPTIME = APSPACE(Poly) 를 이용해, 다항 공간 교대 기계의 계산 과정을 ‘수용하지 않는’ 계산을 받아들이는 작은 NFA 로 변환하고, 이를 기존의 Boolean 식 평가 문제와 연결시켜 EXPTIME‑hardness 를 증명한다. 동시에, 위 구성과 기존의 지수적 크기의 트리 동형성 검사 알고리즘을 결합해 EXPTIME‑완전성을 얻는다.

다음으로 비순환 NFA(acyclic NFA)를 고려한다. 이러한 자동자는 유한 언어를 지수적으로 압축해 표현하므로, 해당 언어의 접두사 트리는 유한하지만 그 크기가 입력 크기의 지수 배가 된다. 저자는 Lin­del의 로그‑공간 트리 동형성 알고리즘을 압축된 표현에 적용해 PSPACE‑upper bound 를 얻고, 반대로 PSPACE‑hard 문제인 QBF 의 만족 여부를 트리 동형성으로 환원함으로써 PSPACE‑complete 를 확립한다.

정규 단어(선형 순서) 부분에서는 ‘정규 단어’를 DFA 의 최종 상태를 알파벳 기호별로 분할(partitioned DFA)한 형태로 모델링한다. 기존 연구(Heilbrunner, Thomas 등)는 이러한 구조의 동형성을 결정 가능하다고만 보여주었으며, 복잡도는 초지수 수준으로 남아 있었다. 저자는 먼저 partitioned DFA 를 이용해 ‘직접적인’ 정규 표현식(DAG 형태)으로 변환하는 다항시간 절차를 제시한다. 이후, 압축 문자열 비교에 대한 Plandowski의 알고리즘을 확장해, 이러한 DAG‑표현식 간의 동형성을 다항시간에 검증한다. 핵심 아이디어는 DAG 를 ‘straight‑line program’ 으로 보는 관점으로, 동일한 문자열(또는 동일한 색칠 순서)을 생성하는지 여부를 동형성 검사와 동치시킨다. 결과적으로, DFA 로 주어진 두 정규 단어의 동형성 판단은 P‑complete 임을 증명한다. 또한, 이 방법을 이용해 DFA 로 정의된 정규 선형 순서(lexicographic ordering)의 동형성도 동일한 복잡도 수준에서 해결 가능함을 보여, Esik‑Bloom 이 제기한 열린 문제를 해결한다.

전체적으로, 이 논문은 자동 구조의 동형성 문제를 복잡도 이론의 정밀한 경계와 연결시킴으로써, ‘정규’이라는 제한된 무한 구조에서도 매우 다양한 복잡도 구간(EXPTIME, PSPACE, P)이 나타날 수 있음을 입증한다. 특히, 압축 표현(acyclic NFA, DAG‑based 정규 표현식)과 고전적인 복잡도 기법(교대 기계, Boolean 식 환원)을 결합한 기법은 향후 다른 자동 구조 문제에도 적용 가능성을 시사한다.