그룹의 유리 부분집합

초록

본 장에서는 자유군과 그 변형에서 나타나는 유리 부분집합을 자동이론적 관점에서 탐구한다. 특히 Stallings의 유한 역자동화(스테일링스 자동화)를 이용해 자유군의 유한 생성 부분군을 효과적으로 표현하고, Benois 정리를 통해 자유군의 유리 집합을 언어 이론과 연결한다. 또한 가상 자유군·그래프 군 등 보다 일반적인 군에서도 유리 부분집합의 폐쇄성, 결정 가능성, 동역학적 성질을 살펴본다.

상세 분석

이 논문은 크게 세 파트로 구성된다. 첫 번째 파트는 유한 생성 군, 특히 자유군의 기본 개념을 정리하고, 단어 문제·동형 문제·일반화된 단어 문제 등 전통적인 결정 가능성 질문을 제시한다. 여기서 자유군 F_A 를 알파벳 A의 역문자까지 포함한 자유 모노이드 eA* 를 동형 관계 (aa⁻¹=1) 로 몫을 취해 정의하고, 축소(reduction) 과정을 통해 단어 문제를 선형 시간에 해결할 수 있음을 강조한다.

두 번째 파트는 역자동화와 Stallings 구조에 초점을 맞춘다. 역자동화는 각 엣지 (p,a,q) 에 대해 역엣지 (q,a⁻¹,p) 가 존재하는 결정적, 트림, 단일 최종 상태를 갖는 자동화이며, 이는 유한 부분군의 행동을 부분집합으로 모델링한다. Stallings 접기(folding) 절차는 주어진 생성 집합 X ⊂ R_A 로부터 ‘꽃 자동화’를 만든 뒤, 중복된 엣지를 동일시함으로써 유한 역자동화 S(X) 를 얻는다. 중요한 정리는 S(X) 가 선택한 생성 집합이나 접기 순서에 독립적이며, S(H) 로 표기되는 경우 H = ⟨X⟩ 를 정확히 인식한다는 점이다. 이를 통해 일반화된 단어 문제(주어진 단어가 H 에 속하는가?)가 O(n log* n + m) 시간에 해결됨을 보인다. 또한 스패닝 트리를 이용해 S(H) 로부터 자유군의 기저를 직접 구성하는 방법을 제시하고, 이는 Nielsen‑Schreier 정리의 자동화된 증명으로 이어진다.

세 번째 파트에서는 유리 집합과 인식 집합을 일반 군에 확대한다. 유리 집합은 유한 자동화가 인식하는 언어의 이미지이며, 인식 집합은 유한 동형 사상에 의해 정의되는 동등 관계의 유한 지수 부분군이다. Benois 정리는 자유군에서 유리 집합과 정규 언어 사이의 동등성을 보이며, 이는 “유리 집합 = 정규 언어의 이미지” 라는 강력한 결과를 제공한다. 논문은 이 정리를 이용해 유리 집합이 닫힘 연산(곱, 역, 교집합 등) 아래에서 닫혀 있음을 증명하고, 유리 제약(rational constraints) 하에서 방정식 시스템의 해 집합이 다시 유리 집합이 됨을 보여준다. 마지막으로 가상 자유군, 그래프 군(Right‑angled Artin groups) 등에서 유리 집합의 결정 가능성, 폐쇄성, 동역학적 성질을 조사한다. 특히 가상 자유군에서는 유리 집합이 자동군(automatic group) 구조와 잘 맞물려, 언어 이론을 통한 알고리즘 설계가 가능함을 강조한다.

전반적으로 이 장은 자동이론과 군론을 연결하는 교량 역할을 수행한다. Stallings 자동화는 자유군 부분군의 구조를 시각적·계산적으로 파악하게 해 주며, Benois 정리는 언어 이론을 자유군에 적용할 수 있는 이론적 토대를 제공한다. 이러한 도구들은 복잡한 군론 문제(예: 서브그룹 멤버십, 동형 판정, 동역학적 고정점 문제 등)를 유한 자동화와 정규 언어의 관점에서 접근하게 함으로써, 기존의 대수적 방법보다 효율적이고 직관적인 해결책을 제시한다.