무한 구조 위의 트리와 동기화 경로 논리

초록

본 논문은 무한 관계 구조 M을 기반으로 만든 트리 반복(M#)에 동등 레벨 관계 E를 추가한 구조 M#E에 대해, 경로와 체인(경로의 부분집합) 양자화만 허용하는 논리의 모델 검증 문제를 결정 가능하게 만든다. 결정 가능성은 M의 L‑이론이 결정 가능할 때 성립한다. 반면, 강한 트리 반복 M*E(복제 술어 C 포함)나 형식이 약간 확장된 경우에는 미정리성을 보인다.

상세 분석

이 논문은 두 단계로 결과를 전개한다. 첫 번째 단계에서는 Shelah‑Stupp식 약한 트리 반복 M#에 동등 레벨 관계 E를 부착한 구조 M#E를 고려한다. 여기서 사용되는 논리는 “체인 논리”라 불리며, MSO의 집합 양자화를 경로에 포함된 체인으로 제한한다. 체인 논리는 경로 양자화와 결합해 브랜칭 타임 로직에서 흔히 나타나는 특성을 포착한다. 논문의 핵심 기술은 체인 c를 두 개의 ω‑단어 (α,β)로 인코딩하는 것이다. α는 c가 포함된 전체 경로를, β는 해당 경로상의 각 위치가 c에 속하는지를 0‑1 시퀀스로 표시한다. 이렇게 하면 n개의 체인 변수는 (M×{0,1})ⁿ 알파벳 위의 단일 ω‑단어로 변환될 수 있다. 변환된 ω‑단어에 대해 기존의 MSO‑이론을 적용하면, M‑L‑MSO라는 새로운 논리 체계가 등장한다. 여기서 L은 M의 원소 사이 관계를 기술하는 임의의 논리이며, M‑L‑MSO는 ω‑단어 위에서 L‑정의된 문자 술어를 사용한다.

다음 단계에서는 M‑L‑MSO와 동등한 표현력을 갖는 M‑L‑부치 자동기(M‑L‑Büchi automata)를 정의한다. 전이 관계는 L‑공식으로 기술되며, 이는 무한 알파벳 Mⁿ에 대해 전통적인 부치 자동기의 폐쇄성(합집합, 보완, 투사)과 결정 가능성을 그대로 유지한다. 따라서 M‑L‑부치 자동기의 비공허성 문제는 M의 L‑이론이 결정 가능할 경우 결정 가능하다. 이 결과를 이용해 체인 논리의 모델 검증을 M‑L‑부치 자동기의 비공허성 검사로 환원함으로써, M#E의 체인‑L‑이론이 M의 L‑이론이 결정 가능하면 결정 가능함을 증명한다.

반면, 강한 트리 반복 M에 복제 술어 C를 추가한 ME에서는 입력 알파벳이 Mⁿ (n>1) 형태가 되면서 비공허성 문제가 일반적으로 불가능해진다. 논문은 특히 M이 무한인 경우, 심지어 자연수 후계 구조(N,+1)만을 갖는 경우에도 M*E의 1차 논리와 체인 논리가 모두 비결정적임을 보인다. 이는 복제 술어가 “수평적” 동기화를 제공하면서, 경로 양자화만으로는 제어할 수 없는 복잡성을 도입하기 때문이다. 또한, 동일 레벨 양자화를 체인 양자화와 결합해 전체 레벨에 대해 양자화하는 경우에도, 이진 알파벳 {0,1}에 대해 M#E가 결정 가능하지만, 레벨 전체에 대한 양자화는 MSO 수준으로 상승해 결정 불가능해진다.

결과적으로, 논문은 무한 구조 위의 트리 모델에 대해 “수평(동일 레벨) + 수직(경로/체인)” 양방향 동기화를 허용하되, 양자화 범위를 체인에 제한하면 결정 가능성을 유지할 수 있음을 보여준다. 그러나 복제 술어와 같은 강한 연산자를 도입하거나 양자화 범위를 레벨 전체로 확대하면, 기존의 Rabin‑정리 기반 결정 가능성은 무너지며, 이는 무한 알파벳 위의 자동기 이론에서 알려진 경계와 일치한다.