무한 유리 관계와 보렐 집합의 복잡도

초록

본 논문은 무한 유리 관계가 보렐 계층의 Σ⁰₃-완전 및 Π⁰₃-완전 집합이 될 수 있음을 증명한다. 이를 통해 일부 무한 유리 관계는 Δ⁰₄에 속하지만 Σ⁰₃∪Π⁰₃에는 속하지 않음이 확인된다. 이러한 결과는 Simonnet과 Lescow·Thomas가 제기한 열린 질문에 새로운 답을 제공한다.

상세 분석

무한 유리 관계(infinitary rational relations)는 무한 문자열을 입력·출력으로 하는 비결정적 Büchi 트랜스듀서에 의해 인식되는 2-변수 관계이다. 보렐 계층은 데스크립션 복잡도를 측정하는 표준적인 도구로, Σ⁰₁, Π⁰₁은 각각 개방·폐쇄 집합을, Σ⁰ₙ·Π⁰ₙ은 각각 n번째 수준의 가산 합·교를 의미한다. 기존 연구에서는 무한 유리 관계가 Σ⁰₂ 혹은 Π⁰₂ 수준에 머무른다고 알려졌지만, Σ⁰₃·Π⁰₃ 수준의 복잡성을 갖는 사례는 없었다. 저자들은 두 종류의 트랜스듀서를 설계하여, 각각 Σ⁰₃-완전과 Π⁰₃-완전 집합에 연속적으로 환원 가능한 무한 유리 관계 R₁, R₂를 구성한다. Σ⁰₃-완전성을 보이기 위해서는 알려진 Σ⁰₃-완전 문제인 “무한 단어 w에 대해 무한히 많은 위치에서 특정 패턴이 나타나는가”를 R₁에 연속 사상으로 변환한다. 이때 트랜스듀서는 입력을 읽으며 패턴 발생을 카운트하고, 무한히 많은 발생을 감지하면 수용 상태에 머무른다. Π⁰₃-완전 사례는 Σ⁰₃-완전 문제의 보완을 이용해 구성되며, 트랜스듀서는 모든 가능한 패턴 발생을 검증하도록 설계된다. 두 관계 모두 Borel 집합임을 보이기 위해서는 트랜스듀서의 수용 조건이 Büchi 조건이므로 ω-언어가 Borel임을 이용한다. 결과적으로 R₁∈Σ⁰₃·complete, R₂∈Π⁰₃·complete이며, 이들은 Δ⁰₄에 포함되지만 Σ⁰₃∪Π⁰₃에는 속하지 않는다. 이는 무한 유리 관계가 보렐 계층의 4번째 수준까지 도달할 수 있음을 의미한다. 또한, 이러한 구성은 Simonnet이 제시한 “무한 유리 관계의 Borel 복잡도는 어느 정도인가?”라는 질문과 Lescow·Thomas가 제기한 “Δ⁰₄에 속하지만 Σ⁰₃·Π⁰₃에 속하지 않는 관계가 존재하는가?”라는 문제에 직접적인 부정답을 제공한다.