MSO에서 순서 등급의 이분법 정리

초록

이 논문은 완전 이진 트리 위의 단일 존재량자 ∃X φ( Y⃗ ,X ) 공식에 대해, 증인 X 가 잘 설립된 집합일 경우 그 순서 등급 rank(X) 을 정의하고, 모든 가능한 Y⃗ 에 대해 최소 등급의 상한 rank(φ) 을 연구한다. 주요 결과는 rank(φ) 이 ω²보다 작거나 ω₁와 정확히 일치한다는 이분법이며, 어느 경우인지는 결정 가능하고, 전자의 경우 구체적인 정수 N 을 계산해 rank(φ) < ω·N 임을 알 수 있다. 또한 이 결과는 µ‑계산식의 폐쇄 순서와 관련된 여러 응용을 제공한다.

상세 분석

논문은 먼저 MSO(모노이드 2차 논리)를 완전 이진 트리 T 에 해석한다. 변수 X 는 트리의 노드 집합을 나타내며, X 가 ‘well‑founded’하다는 것은 X 내에 무한 상승 사슬이 존재하지 않음을 의미한다. 이러한 집합에 대해 전통적인 순서 등급 rank(X) 을 정의한다. 등급은 0 부터 시작해, 각 노드가 자식 노드들의 등급보다 하나 큰 최소 상한을 취함으로써 귀납적으로 부여되며, 결과적으로 rank(X) 은 가산 순서수 < ω₁ 에 속한다.

주요 정의인 rank(φ) 은 모든 자유 변수 Y⃗ 에 대해 ∃X φ(Y⃗ ,X) 가 만족될 때 가능한 최소 rank(X) 의 상한을 취한 것이다. 이 상한은 가산 순서수들의 상한이므로 ≤ ω₁ 이다. 논문은 이 값이 두 가지 경우만 가질 수 있음을 보인다. 첫 번째 경우는 rank(φ) < ω², 즉 ω·N (어떤 자연수 N) 이하인 경우이며, 두 번째 경우는 rank(φ) = ω₁, 즉 무한히 큰 가산 순서수에 도달하는 경우이다.

이 이분법을 증명하기 위해 저자들은 ‘게임 기반 기법’을 활용한다. 구체적으로, 두 완전 정보 플레이어 ∃ 와 ∀ 가 참여하는 유한 아레나의 무한 게임을 설계한다. 게임의 승리 조건은 ω‑regular 언어에 의해 정의되며, 이는 Büchi‑Landweber 정리의 적용을 가능하게 한다. 이 정리에 의해 게임은 결정적이며, 승자를 효과적으로 계산할 수 있다.

게임 설계는 다음과 같은 두 가지 목표를 동시에 만족하도록 정교하게 이루어진다. (1) ∃ 가 승리하면 해당 φ 에 대해 rank(φ) = ω₁ 임을 보장한다. (2) ∀ 가 승리하면 어떤 자연수 N 이 존재해 rank(φ) < ω·N 임을 보인다. 승리 전략은 각각 ‘증인 X 의 등급을 무한히 크게 만들 수 있음’ 혹은 ‘증인의 등급을 제한된 단계 안에 강제함’을 구체적으로 구성한다.

또한 저자들은 rank(φ) < ω² 이라는 속성을 MSO 자체로는 표현할 수 없음을 보인다(정리 9.3). 이는 기존의 ‘카디널리티 양화자’와 대비되는 중요한 차이를 만든다.

응용 측면에서, 논문은 µ‑계산식의 폐쇄 순서와 직접적인 연관성을 제시한다. µ‑계산식 μX.F(X) 의 최소 고정점에 도달하기 위해 필요한 반복 횟수는 바로 rank(F) 과 동일하게 해석될 수 있다. 기존 연구에서 제기된 “ω² 이상의 폐쇄 순서를 갖는 µ‑계산식이 존재하는가?”라는 질문에 대해, 본 결과는 ‘가능하지만 그 경우 폐쇄 순서는 반드시 ω₁이다’는 결론을 제공한다. 또한 벡터형 고정점 μ ⃗X. ⃗F( ⃗X ) 에 대해서도 동일한 이분법이 성립함을 증명한다(정리 10.2).

관련 연구와 비교하면, 자동 구조 이론에서의 ‘자동 순서수’는 ω·ω·ω까지 가능하지만, MSO → 자동자 변환을 통한 표현력 제한 때문에 여기서는 ω²가 상한이 된다. 또한 Borel 계층과의 연관성도 논의되는데, 비결정적 Büchi 자동자에 의해 정의된 언어는 ‘ω₁이거나 ω² 미만’이라는 이분법적 성질을 갖고, 이는 Borel‑위계에서의 복잡도 구분과 일맥상통한다.

결론적으로, 논문은 MSO → 자동자 변환, 게임 이론, 순서수 이론을 결합해 ‘순서 등급’이라는 새로운 복잡도 측정 도구에 대한 강력한 이분법 정리를 제시하고, 이를 통해 µ‑계산식, 자동 구조, Borel 계층 등 다양한 분야에 적용 가능한 통합적 프레임워크를 제공한다.