문맥 자유 언어와 그룹 언어 포함 관계를 다항시간에 판정하는 새로운 그래프 기반 알고리즘

본 논문은 A.V. 아니스모프가 제시한 “문맥 자유 언어(L) 가 그룹 언어(L(G)) 에 포함되는지 여부를 판정하는 문제”에 대해, 기존의 비다항적 알고리즘을 개선하여 O(n³) 시간 안에 해결할 수 있는 새로운 방법을 제안한다. 먼저, 논문은 문제의 배경을 설명한다. 그룹 언어 L(G)는 생성자 집합 Σ = X ∪ X′ 로 정의된 군 G 의 단어 집합으로, Σ* 에서 e(단위원소)와 동치인 모든 단어들의 집합이다. 아니스모프는 유한 자동자의 비모호성 판단이 이 포함 문제의 특수 사례임을 보였으며, 따라서 일반적인 CFL ⊆ L(G) 판정에 다항 시간 알고리즘이 존재한다면 자동자 비모호성도 다항 시간에 해결될 수 있음을 시사한다. 그러나 기존의 알고리즘은 W₁ = Ω₁ ∪ Ω₂ 라는 유한 집합을 모두 열거하고, 각각이 L(G) 에 속하는지를 검증하는 방식으로, 실제 구현 시 지수적 복잡도를 갖는다. 이를 극복하기 위해 저자는 두 가지 핵심 아이디어를 도입한다. 1. **그래프 기반 표현** 문맥 자유 문법 Γ = ⟨N, Σ, Π⟩ 를 Chomsky 정규형으로 변환하고, 비터미널 집합 N 에 추가 정점 Z 를 더해 유향 그래프 H_Γ = ⟨V, R, U, ℓ⟩ 를 만든다. 여기서 V = N ∪ {Z}, R 은 두 종류의 간선으로 구성된다. (a) A → a 형태의 생산 규칙에 대해 A → Z 로 라벨 ⟨a, e⟩ 를 붙이고, (b) A → BC 형태에 대해 A → B 와 C → Z 로 각각 라벨 ⟨ε, C⟩, ⟨ε, C′⟩ 를 부여한다. 라벨은 특수 모노이드 𝕌 = Σ* × T 로 정의되며, T 는 비터미널과 그 복사본(N′) 로 생성된 자유 모노이드이다. 𝕌 의 곱 연산은 문자열과 모노이드 원소를 순차적으로 연결하는 형태이며, 단위 원소는 ⟨ε, e⟩ 이다. 정리 3.3 은 이 그래프와 라벨링이 정확히 문법 파생을 반영한다는 것을 증명한다. 즉, A ∈ N 에서 Z 로 가는 경로 π 가 존재하고 ℓ(π) = ⟨α, ω⟩ = ⟨α, e⟩ 일 때, α 는 L(Γ, A) 에 속한다. 여기서 ω 가 제한된 Dyck 언어 D₂ₙ 에 속함을 이용해 괄호 구조가 올바른지를 확인한다. 2. **반덧셈 반곱 반역반 𝕊𝕌** 𝕌 의 모든 부분집합을 원소로 하는 집합 2^𝕌 에 대해, 합은 집합 합 ∪, 곱은 원소별 곱 ∘ 로 정의한다. 이렇게 구성된 반덧셈 반곱 반역반 𝕊𝕌 = ⟨2^𝕌, ∪,·,∅,{1_𝕌}⟩ 은 전통적인 행렬 연산을 일반화한다. 그래프 H_Γ 의 정점 쌍 (A_i, A_j) 사이의 모든 경로 라벨 집합을 P_{ij} 라고 두고, 초기에는 직접 간선 라벨을 원소로 하는 집합을 할당한다. 이후 Floyd‑Warshall 형태의 삼중 루프를 𝕊𝕌 위에서 수행하여, 모든 중간 정점 k 를 이용해 P_{ij} ← P_{ij} ∪ (P_{ik}·P_{kj}) 를 반복한다. 이 과정은 정점 수 |V| = n+1 에 대해 O((n+1)³) 번의 반덧셈·반곱 연산을 수행한다. 최종 판단은 시작 비터미널 A_s 에서 Z 로 가는 라벨 집합 P_{s,Z} 에 1_𝕌 = ⟨ε, e⟩ 가 포함되는가이다. 1_𝕌 가 포함되면 α = ε 가 그룹 G 에서 단위와 동치임을 의미하고, 동시에 ω ∈ D₂ₙ 이므로 해당 파생이 올바른 괄호 구조를 갖는다. 따라서 α ∈ L(Γ, A_s) ∩ L(G) 가 된다. **복잡도와 구현상의 고려사항** 알고리즘의 외부 복잡도는 O(n³) 로 명시되지만, 각 연산이 집합 곱·합을 포함한다는 점에서 실제 실행 시간은 라벨 집합의 크기에 크게 좌우된다. 라벨 집합은 최악의 경우 2^{|𝕌|} 로 폭발할 수 있으나, 논문은 실제 입력에서 라벨이 제한된 구조(Dyck 언어)와 생산 규칙의 제한으로 인해 실질적인 크기가 다항적으로 유지된다고 가정한다. 또한, 모든 비터미널이 “essential”(L(Γ, A) ≠ ∅) 라는 전제가 필요하며, 불필요한 비터미널을 사전에 제거하면 그래프 크기와 연산량을 감소시킬 수 있다. **이론적 의의와 확장 가능성** 본 연구는 Anisimov 문제에 대한 최초의 다항 시간 해결책을 제시함으로써, CFL ⊆ 그룹 언어 판정이 이론적으로 효율적임을 증명한다. 특히, 모노이드 𝕌 와 반덧셈 반곱 반역반 𝕊𝕌 를 이용한 그래프 기반 접근법은 다른 언어 포함 문제(예: CFL ⊆ 정규 언어, CFL ⊆ 컨텍스트‑민감 언어)에도 적용 가능성을 시사한다. 또한, 그룹 G 가 단어 문제를 결정 가능하게 가정함으로써, 유한군뿐 아니라 자유군, 직교군 등 다양한 무한군에도 확장될 수 있다. **비판적 평가** 실제 구현 시 메모리 사용량과 연산 비용을 정량화하지 않은 점은 한계로 남는다. 특히, 집합 곱·합 연산이 내부적으로 O(|U|²) 혹은 그 이상이 될 가능성이 있어, 입력 규모가 커질 경우 실용적인 다항 시간 보장은 약화될 수 있다. 또한, 그룹 G 의 단어 문제 복잡도가 높은 경우(예: 일부 자동군)에는 1_𝕌 포함 여부 검증 자체가 비다항적일 수 있다. 이러한 점들을 보완하기 위해 라벨 집합을 압축하는 기법(예: 비트셋, BDD)이나, 불필요한 비터미널 제거 전처리를 명시적으로 제시한다면 알고리즘의 실용성이 크게 향상될 것이다. 결론적으로, 논문은 Anisimov 문제에 대한 새로운 다항 시간 알고리즘을 제시하고, 그래프·모노이드·반덧셈 구조를 결합한 이론적 프레임워크를 구축함으로써 형식 언어 이론과 군 이론 사이의 교차 연구에 중요한 기여를 한다. 향후 연구에서는 구현 최적화, 메모리 효율화, 그리고 다른 언어 포함 관계에 대한 확장 연구가 기대된다.