무한 포스트 대응 문제와 유리 관계의 고차 불확정성

초록

이 논문은 정규 ω-언어에 제한된 무한 포스트 대응 문제(ω‑PCP(Reg))가 Σ¹₁‑완전임을 증명하고, 이를 이용해 무한 유리 관계의 교집합 공백성, ω‑유리 함수의 연속점 존재 여부, 그리고 연속점 집합의 ω‑정규성 판단 문제가 각각 Π¹₁‑완전, Σ¹₁‑완전, Π¹₁‑완전임을 보인다.

상세 분석

논문은 먼저 분석계층(analytic hierarchy)의 기본 개념을 정리하고, Σ¹₁‑완전 문제의 대표 사례인 “초기 상태를 무한히 재방문하는 튜링 기계 존재 여부”를 소개한다. 이를 바탕으로 정규 ω‑언어 L(A) 로 제한된 무한 포스트 대응 문제(ω‑PCP(Reg))를 정의한다. 저자는 ω‑PCP(Reg)의 해가 존재함을 “Büchi 튜링 기계 M”의 비공집합성으로 표현함으로써, 존재성을 Σ¹₁‑형식으로 기술하고, 따라서 문제는 Σ¹₁에 속함을 보인다.

완전성을 보이기 위해, 위의 Σ¹₁‑완전 문제(P)를 ω‑PCP(Reg)로 다항식 시간(1‑reduction) 환원한다. 튜링 기계 M의 동작을 두 문자열 집합 {x_i},{y_i}와 Büchi 자동자 A 로 인코딩하여, M가 초기 상태를 무한히 방문하는 실행이 존재하면 정확히 동일한 인덱스 열 i₁i₂…이 L(A) 안에 놓이며 x_{i₁}x_{i₂}… = y_{i₁}y_{i₂}… 가 성립하도록 만든다. 이 환원은 효과적으로 구성 가능함을 증명함으로써 ω‑PCP(Reg)의 Σ¹₁‑완전성을 확립한다.

이 결과를 활용해 두 무한 유리 관계 R₁,R₂ 가 교차하지 않는지 판단하는 문제를 Π¹₁‑완전임을 보인다. 교차 여부는 “∃ω‑단어 w ∈ R₁ ∩ R₂”의 부정으로 표현되며, 앞서 얻은 Σ¹₁‑완전성을 보완하는 형태가 Π¹₁에 해당한다.

다음으로, ω‑유리 함수 f 를 정의하는 Büchi 변환기 T 를 고려한다. Prieur가 f 의 전체 연속성을 결정 가능함을 보였음에도 불구하고, 저자는 “f 가 적어도 하나의 연속점을 갖는가?” 문제를 Σ¹₁‑완전으로 만든다. 핵심 아이디어는 연속점 존재 조건을 “∃x ∈ Σ^ω ∀ε>0 ∃δ>0 …” 형태의 2차 양화식으로 전환하고, 이를 ω‑PCP(Reg)와 동일한 복잡도로 환원한다. 따라서 연속점 존재 여부는 분석계층의 첫 번째 수준에서 이미 완전함을 갖는다.

마지막으로, 연속점 집합 C(f) 가 ω‑정규 언어인지 여부를 판단하는 문제를 Π¹₁‑완전으로 증명한다. 여기서는 C(f) 가 정규인지 여부를 “∀ω‑단어 w (w ∈ C(f) → w ∈ L)” 형태로 기술하고, 이를 ω‑PCP(Reg)의 보완 문제와 연결한다. 결과적으로, 연속점 집합의 정규성 판단은 Σ¹₁‑완전 문제의 보완이므로 Π¹₁‑완전이 된다.

전체적으로 논문은 무한 포스트 대응 문제를 분석계층의 기준점으로 삼아, 유리 관계와 ω‑유리 함수에 대한 여러 고차 불확정성 결과를 일관된 방법론으로 도출한다. 특히, 기존에 결정 가능하거나 단순히 불가능하다고 알려졌던 문제들 사이에 “Σ¹₁‑완전 vs Π¹₁‑완전”이라는 미세한 복잡도 차이를 명확히 구분함으로써, 형식 언어 이론과 자동이론에서 분석계층의 역할을 크게 확장시켰다.