오디날의 커버링과 푸시다운 계층에 관한 연구

초록

본 논문은 ε₀ 미만의 순서수에 대한 기본 수열 구조를 분석하고, 이를 식별할 수 있는 모노이드 2차 논리식의 존재와 불가능성을 보여준다. 또한 이러한 구조들을 푸시다운 계층에 정확히 배치하고, 순서수 자체를 해당 계층에 위치시키는 직접적인 표현을 제시한다.

상세 분석

논문은 먼저 ε₀보다 작은 순서수 α에 대해 기본 수열(βₙ)ₙ을 정의한다. 기본 수열은 α를 한계점으로 하는 증가하는 수열이며, 각 단계에서 α를 더 작은 순서수들의 합으로 분해한다는 점에서 전통적인 가니어(가니어) 표기와 유사하지만, 여기서는 ‘커버링’이라는 새로운 관계를 도입한다. 커버링 관계 C(α,β)는 β가 α의 기본 수열 중 어느 한 원소이거나, β가 α보다 작은 순서수이며 β가 α의 어떤 부분 구조를 ‘덮는다’는 의미로 정의된다. 이 관계는 전통적인 순서수 비교와는 별개의 이산적 구조를 형성한다.

핵심 결과는 두 가지이다. 첫째, 주어진 구조 ⟨α, C⟩을 정확히 식별하는 모노이드 2차 논리(MSO) 공식 φₐ가 존재한다는 점이다. φₐ는 α의 기본 수열의 패턴과 커버링 관계의 전이 규칙을 재귀적으로 기술함으로써, 어떤 다른 구조 ⟨β, C’⟩가 φₐ를 만족하면 동형임을 보인다. 이때 사용된 MSO 공식은 순서수 자체에 대한 정의가 아니라, ‘커버링 트리’라는 유한-무한 혼합 그래프에 대한 정의이므로, 전통적인 순서수 자체를 MSO로 구분할 수 없다는 사실과 대조된다.

둘째, 이러한 구조들을 푸시다운 계층(pushdown hierarchy) 안에 정확히 배치한다. 푸시다운 계층은 고차 스택 오토마타가 인식할 수 있는 언어들의 계층으로, 레벨 0은 정규 언어, 레벨 1은 전통적인 푸시다운 언어, 레벨 k는 k-스택 오토마타가 인식하는 언어를 의미한다. 논문은 ⟨α, C⟩가 레벨 n의 푸시다운 언어와 동형임을 보이며, n은 α의 ‘표현 복잡도’(즉, 기본 수열의 재귀 깊이)와 일치한다. 특히, ε₀에 한계에 가까워질수록 필요한 스택 레벨이 무한히 증가함을 보여, ε₀ 자체는 푸시다운 계층 밖에 있음을 증명한다. 그러나 논문은 ε₀ 미만의 모든 순서수를 레벨 k 구조로 직접적으로 표현하는 방법을 제시한다. 이 방법은 ‘직접 프레젠테이션’이라 불리며, 각 순서수를 그에 대응하는 스택 연산 시퀀스로 변환한다. 이를 통해 순서수와 푸시다운 계층 사이의 정밀한 대응 관계가 확립된다.

기술적인 측면에서, 저자는 MSO 공식의 구성에 있어 ‘경로 변수’를 도입해 커버링 트리의 깊이와 폭을 동시에 제어한다. 또한, 비정규성 증명을 위해 ‘펑크션-인젝션’ 기법을 활용, 순서수 자체가 MSO로 구분될 수 없음을 논리적 모순을 통해 보여준다. 마지막으로, 푸시다운 계층에 대한 복잡도 분석에서는 ‘스택 깊이 함수’와 ‘기본 수열 길이 함수’ 사이의 상한·하한 관계를 정량화하여, 각 레벨이 포괄하는 순서수 집합을 정확히 규정한다. 이러한 결과는 순서수 이론과 형식 언어 이론 사이의 교량을 놓으며, 특히 자동화 검증에서 무한 상태 공간을 다루는 새로운 도구로 활용될 가능성을 시사한다.