문맥 자유 언어의 사전 순서에서 밀도 여부는 결정 불가능하다

초록

**
이 논문은 두 글자 알파벳 위의 문맥 자유 문법이 생성하는 언어를 사전 순서(lexicographic order)로 정렬했을 때, 그 언어가 밀도(dense)한지 여부를 결정하는 알고리즘이 존재하지 않음을 증명한다. 증명은 포스트 대응 문제(PCP)를 이용한 환원으로 이루어지며, 같은 방법으로 두 문맥 자유 언어의 사전 순서가 동일한 순서형(order type)을 갖는지도 결정 불가능함을 보인다.

**

상세 분석

**
논문은 먼저 알파벳 Σ에 선형 순서 < 를 부여하고, 이를 확장한 사전 순서 <ℓ 를 정의한다. Σ* 위의 어떤 언어 L에 대해 (L,<ℓ )는 가산 선형 순서를 제공한다는 사실을 상기한다. 이후 “정규”, “문맥 자유”, “결정적 문맥 자유” 선형 순서를 각각 해당 언어 종류와 동형인 순서형이라고 정의하고, 기존 연구에서 정규·결정적 문맥 자유 순서가 재귀 스킴의 차수 0·1 로 특징지어짐을 언급한다.

핵심 결과는 두 단계로 전개된다. 첫 번째는 문맥 자유(전위) 문법 G가 생성하는 언어 L(G)가 사전 순서상 밀도(dense)인지 여부가 결정 불가능함을 보이는 것이다. 이를 위해 임의의 PCP 인스턴스 (α,β) 를 입력으로 받아, 알파벳 Δ 를 구성하고, Δ 위에 전위 문법 Gα,β 를 설계한다. Gα,β 는 네 종류의 부분언어 Lα, Lβ, L1,…,Ln+2 로 이루어지며, 각각은 PCP 해의 존재 여부와 직접 연결된다. 구체적으로 Lα 와 Lβ 는 해가 존재할 경우 동일한 접두어 뒤에 서로 다른 구분 기호(¢, $)를 붙인 문자열을 포함하고, L1,…,Ln+2 은 정규 언어 Qj = {dj0,dj2}* dj1 로 구성돼 η(유리수 순서) 형태의 밀도 있는 순서를 만든다.

증명은 두 경우를 구분한다. (α,β) 가 해를 갖는 경우, uα = i1…im u ¢ 와 uβ = i1…im u $ 라는 두 문자열이 L에 존재하지만 그 사이에 L에 속하는 문자열이 없으므로 L은 비밀도이다. 반대로 해가 없으면, 임의의 u <ℓ v ∈ L 에 대해 공통 접두어 w 와 그 뒤의 문자 c<d 를 찾아, 중간에 Qj 혹은 Lj 의 밀도성을 이용해 w x ∈ L (c< x < d) 를 삽입함으로써 항상 중간 원소를 만들 수 있음을 보인다. 따라서 L은 완전한 밀도성을 가진다.

두 번째 결과는 위의 밀도 판정 불가능성을 이용해 두 문맥 자유 언어의 사전 순서가 동형인지 여부도 결정 불가능함을 증명한다. 같은 PCP 인스턴스로 만든 Gα,β 와, η 형태의 순서를 갖는 단순한 오른쪽 선형 문법 G′ (예: {00,11}*01) 를 비교한다. (α,β) 가 해가 없으면 두 언어 모두 η 순서를 가지므로 동형이고, 해가 있으면 Gα,β 가 비밀도이므로 동형이 아니다. 따라서 동형성 판정 문제는 PCP와 동등하게 결정 불가능하다.

논문은 또한 선형 순서의 밀도·산란·웰오더링 등 기존 분류와 연결시키며, 정규 선형 순서의 동형성은 결정 가능하지만 문맥 자유 선형 순서의 경우는 아직 미해결이었다는 점을 강조한다. 마지막으로, 전위 문법이 아닌 일반 문맥 자유 문법에 대해서도 밀도 여부를 다항 시간에 판정할 수 있는 알고리즘이 존재한다는 가능성을 제시하며, 향후 연구 방향을 제안한다.

**