인식 가능한 트리 언어의 복잡성: Borel 위계 밖의 차이 계층 탐구

초록

이 논문은 인식 가능한 트리 언어의 위상적 복잡성을 차이 계층 (D_{\alpha}(\mathbf{\Sigma}^1_1)) 관점에서 분석한다. 모든 (n\ge 1) 에 대해 (D_{\omega^n}(\mathbf{\Sigma}^1_1))-완전 언어 (L_n)을 비결정적 Muller 자동자로 인식함을 보이고, 단일성(Büchi) 자동자는 반드시 Borel 집합만을 인식한다는 반대 결과를 제시한다. 또한 Mostowski‑Rabin 지수 ((i,k)) 에 대한 게임 트리 언어 (W_{(i,k)})가 (k-i\ge2) 일 때 (L_n)보다 위상적으로 복잡하며, (W_{(i,k)})는 (D_{\alpha}(\mathbf{\Sigma}^1_1)) 중 (\alpha<\omega^\omega) 에 속하지 않음을 증명한다.

상세 분석

본 연구는 무한 이진 트리 위에서 정의되는 언어들의 위상적 복잡성을 정밀하게 구분하고자 차이 계층 (D_{\alpha}(\mathbf{\Sigma}^1_1)) (분석적 집합의 차이 계층)을 도입한다. 차이 계층은 (\mathbf{\Sigma}^1_1) 집합들의 차이 연산을 반복 적용해 얻어지는 복잡도 계층으로, 기존에 Borel 계층과 분석적 계층 사이의 미세한 구분을 제공한다. 논문은 먼저 모든 자연수 (n\ge1) 에 대해 (D_{\omega^n}(\mathbf{\Sigma}^1_1))-완전인 트리 언어 (L_n)을 구성한다. 이 언어들은 비결정적 Muller 트리 자동자(MTA)로 인식되며, Muller 수용 조건이 허용하는 복잡한 무한 경로 패턴을 활용해 (\omega^n) 단계의 차이를 구현한다. 완전성 증명은 (\mathbf{\Sigma}^1_1) 집합들의 차이 계층 내 임의의 언어를 연속 환원(reduction)할 수 있음을 보이는 방식으로 진행된다.

다음으로, 단일성(Büchi) 자동자에 대한 제한을 탐구한다. 저자는 ‘단일성’이라는 제약이 자동자의 전이 구조를 크게 단순화시켜, 인식 가능한 언어가 반드시 Borel 집합에 속함을 증명한다. 이는 기존에 알려진 ‘Büchi 자동자는 Borel’이라는 직관을 형식적으로 확장한 결과이며, 비결정적 Muller 자동자와는 달리 차이 계층의 높은 단계에 도달할 수 없음을 의미한다.

마지막으로, Mostowski‑Rabin 지수 ((i,k)) 에 대응하는 게임 트리 언어 (W_{(i,k)})를 고려한다. 이러한 언어는 두 플레이어가 트리의 노드를 번갈아 선택하며 승패를 가르는 무한 게임으로 정의되며, 지수 (k-i) 가 2 이상일 때 그 복잡도는 매우 높다. 논문은 (L_n) 을 (W_{(i,k)})에 위상적으로 감소시킬 수 있음을 보임으로써, (W_{(i,k)})가 (D_{\omega^n}(\mathbf{\Sigma}^1_1)) 보다 상위에 위치함을 증명한다. 특히 (W_{(i,k)})는 (\alpha<\omega^\omega) 인 모든 차이 계층 (D_{\alpha}(\mathbf{\Sigma}^1_1)) 에 포함되지 않으며, 이는 트리 언어 이론에서 가장 높은 복잡도 중 하나로 자리매김한다.

이러한 결과들은 트리 자동자 이론과 위상적 복잡도 이론 사이의 교차점을 명확히 하며, 차이 계층을 통한 미세 구분이 무한 구조의 언어 분류에 강력한 도구가 될 수 있음을 보여준다.