집합론 모델에 따라 달라지는 1‑카운터 Büchi 자동기의 보완 언어 크기

초록

이 논문은 1‑카운터 Büchi 자동기 A를 구성하여, 그 ω‑언어 L(A)의 보완 L(A)⁻의 기수(cardinality)가 ZFC 체계만으로는 결정될 수 없음을 보인다. 구체적으로 ZFC 모델 V₁에서는 L(A)⁻가 가산, V₂에서는 연속체(2^{ℵ₀}), V₃에서는 ℵ₁(ℵ₀<ℵ₁<2^{ℵ₀})이 된다. 동일한 현상이 2‑테이프 Büchi 자동기가 인식하는 무한 관계에도 적용된다. 결과는 보완 언어의 가산성 판단 문제가 Σ₃¹ \ (Π₂¹∪Σ₂¹)에 위치함을 보여주며, 이는 기존의 가산성/비가산성 판정이 결정론적이라는 직관과는 크게 대조된다.

상세 분석

논문은 먼저 ω‑언어와 자동기의 복잡도 계층을 정리한다. 1‑카운터 Büchi 자동기는 BCL(1)^{ω}라는 클래스에 속하며, 이는 효과적인 분석 집합(Σ₁¹) 안에 들어간다. 따라서 L(A)의 보완 L(A)⁻는 공분석 집합(Π₁¹)이며, 공분석 집합의 크기는 세 가지 경우(가산, ℵ₁, 2^{ℵ₀})만 가능하다는 사실을 이용한다. 핵심은 ‘가장 얇은(thin) 공분석 집합’ C₁의 존재인데, 이는 Kechris와 Guaspari‑Sacks가 독립적으로 증명한 결과이며, C₁의 기수는 ZFC 모델에 따라 달라진다. 저자는 C₁을 1‑카운터 자동기의 언어와 적절히 결합해 새로운 자동기 A를 만든다. 구체적으로 A는 입력을 두 부분으로 나누어 첫 번째 부분이 C₁에 속하는지 여부를 판단하고, 두 번째 부분은 무조건 수용한다. 이렇게 하면 L(A)⁻는 C₁와 동형이 되므로, C₁의 기수와 동일한 변동성을 갖는다.

다음 단계에서는 집합론적 도구를 도입한다. 모델 V₁에서는 연속체 가설(CH)이 성립하고, C₁이 가산 집합이 되도록 강제(force)한다. 모델 V₂에서는 CH가 부정되어 2^{ℵ₀}=ℵ₁>ℵ₀이 되므로 C₁는 연속체와 동형이 된다. 모델 V₃에서는 L(구축 가능한 집합) 내부와 외부의 차이를 이용해 ω₁^{L}<ω₁을 만들고, 이때 C₁는 ℵ₁ 크기를 갖는다. 각각의 모델에서 A는 동일하게 정의되지만, 보완 언어의 기수가 달라지는 것을 보인다.

또한 2‑테이프 Büchi 자동기 B에 대해서도 동일한 구성을 적용한다. B는 두 테이프에 각각 C₁와 임의의 ω‑언어를 읽게 하여, 그 관계 L(B)⁻가 C₁와 동형이 되게 만든다. 따라서 무한 관계의 보완도 ZFC에 의해 결정되지 않는다.

결과적으로, “L(A)⁻가 가산인가?”라는 결정 문제는 Σ₃¹에 속하고, Π₂¹·Σ₂¹와는 겹치지 않는다. 이는 Shoenfield 절대성 정리를 이용해, Σ₁¹·Π₁¹ 수준에서는 절대적인(모델에 독립적인) 판단이 불가능함을 보인다. 반면, 일반적인 무한 관계의 가산성 여부는 결정 가능하므로, 자동기와 관계 사이의 복잡도 차이가 크게 드러난다. 논문은 또한 ω‑언어와 튜링 기계 사이의 변환(1‑카운터 자동기 ↔ Büchi 튜링 기계)을 이용해, 기존 결과인 BCL(2)^{ω}=Σ₁¹을 재확인한다.