가우스 단어 평면성 문제의 서술 복잡도

초록

본 논문은 무한 알파벳 위에서 동작하는 자동화 모델을 이용해 서명·비서명 가우스 단어가 나타내는 매듭 도면의 평면성 판별 문제의 서술 복잡도를 분석한다. 서명 가우스 단어는 2‑방향 레지스터 자동기로 다항식 시간 내에 결정 가능함을 보이고, 비서명 경우는 비결정적 자동기와 추가적인 메모리(예: 스택) 없이는 인식이 어려워 보다 높은 복잡도 클래스로 귀속된다는 상한을 제시한다.

상세 분석

가우스 단어는 매듭 이론에서 매듭 다이어그램을 순환 문자열 형태로 표현한 것으로, 교차점마다 고유한 라벨을 부여하고 그 라벨이 등장하는 순서를 기록한다. 라벨 집합이 매듭의 복잡도에 따라 무한히 커질 수 있기 때문에 전통적인 유한 알파벳 자동기만으로는 이러한 문자열을 처리할 수 없으며, 무한 알파벳 위에서 동작하는 레지스터 자동기(register automaton), 데이터 자동기(data automaton), 혹은 펩블 자동기(pebble automaton)와 같은 확장 모델이 필요하다. 논문은 먼저 서명 가우스 단어(각 교차점에 + 혹은 – 부호가 붙은 경우)의 평면성 판별을 고전적인 라우드-스위트(Laud–Swee) 알고리즘과 연결시킨다. 라우드-스위트 알고리즘은 교차점 라벨을 그래프의 정점으로 보고, 인접 관계를 기반으로 평면 임베딩 가능성을 검사한다. 이 과정을 2‑방향 레지스터 자동기로 구현하면, 자동기는 현재 읽고 있는 심볼의 라벨을 레지스터에 저장하고, 이전에 저장된 라벨과의 관계(동일 라벨인지, 부호가 일치하는지 등)를 실시간으로 검증한다. 레지스터의 수는 교차점 라벨의 최대 동시 등장 수에 비례하지만, 매듭 다이어그램의 구조상 이는 상수(보통 2~3)로 제한될 수 있다. 따라서 서명 가우스 단어의 평면성은 결정적 2‑방향 레지스터 자동기로 O(n) 시간에 인식 가능함을 증명한다.

반면 비서명 가우스 단어는 부호 정보가 없기 때문에 라벨 간의 위상적 관계를 추론하기 위해 추가적인 비결정적 선택이 필요하다. 논문은 비서명 경우를 비결정적 레지스터 자동기와 한 개의 스택을 결합한 모델로 확장한다. 스택은 현재까지 관찰된 라벨들의 쌍을 저장해 두고, 새로운 라벨이 등장했을 때 기존 라벨과의 교차 여부를 역추적한다. 이 과정은 일반적인 컨텍스트프리 언어 인식과 유사하지만, 라벨이 무한히 다양하므로 스택에 저장되는 데이터는 “데이터 값”과 “위치 정보”를 동시에 포함한다. 결과적으로 비서명 가우스 단어의 평면성 판별은 비결정적 데이터 자동기의 한계 안에서 PSPACE 상한을 갖는 것으로 보이며, 현재 알려진 하한은 NP‑complete 수준이다. 논문은 이러한 복잡도 차이를 정리하면서, 서명 여부가 자동화 모델의 선택과 복잡도에 결정적인 영향을 미친다는 중요한 통찰을 제공한다.

또한 논문은 무한 알파벳 자동기의 서술 복잡도 개념을 도입한다. 여기서 서술 복잡도는 자동기의 상태 수, 레지스터(또는 펩블) 개수, 그리고 전이 함수의 표현 길이를 포함한다. 서명 가우스 단어에 대해서는 상태 수와 레지스터 개수가 상수에 가깝게 유지되므로, 서술 복잡도는 실제 구현 관점에서도 효율적이다. 반면 비서명 경우는 레지스터와 스택의 조합으로 인해 서술 복잡도가 입력 길이에 따라 선형 혹은 그 이상으로 증가한다. 이러한 차이는 매듭 이론에서 서명 매듭과 비서명 매듭이 갖는 위상학적 차이와도 일맥상통한다.

마지막으로 논문은 무한 알파벳 자동기와 매듭 이론 사이의 교차점이 앞으로도 풍부한 연구 주제를 제공할 것이라고 전망한다. 특히, 다른 매듭 불변량(예: 알렉산더 다항식, 제이슨 다항식)과 연관된 문자열 언어를 무한 알파벳 자동기로 모델링함으로써, 기존에 계산적으로 어려웠던 매듭 판별 문제들을 형식 언어 이론의 도구로 접근할 수 있는 가능성을 제시한다.