2차원 타일링 언어의 결정성 탐구: 비결정성에서 일관성으로

초록

REC(타일링 인식 언어) 은 비결정적 특성을 갖지만, UREC이라는 제한된 비모호 클래스는 언어 포함 관계와 불가능성을 드러낸다. 저자는 열·행·대각선 기반의 ‘라인‑무모호’ 모델을 도입해 REC 내부에 결정적·준결정적 계층을 구축하고, 각 계층의 폐쇄성·판정 가능성을 증명한다.

상세 분석

본 논문은 2차원 언어 이론에서 가장 기본적인 클래스인 REC(tiling‑recognizable picture languages)를 출발점으로, 그 내부 구조를 보다 세밀하게 분석한다. REC는 문자열의 정규 언어와 유사한 여러 이론적 성질을 공유하지만, 보완(closed under complement)되지 않으며, 멤버십 문제는 NP‑complete라는 점에서 본질적인 비결정성을 내포한다. 이러한 비결정성은 전통적인 결정적 자동화 모델이 2차원으로 확장될 때 언어 인식 능력이 크게 감소하는 원인으로 작용한다.

저자는 먼저 ‘무모호성(unambiguity)’이라는 중간 개념을 도입한다. UREC은 각 그림이 하나의 전사(pre‑image)만을 갖는 타일링 시스템으로 정의되며, REC에 엄격히 포함된다. 그러나 UREC에 속하는지 여부를 결정하는 문제가 일반적으로 undecidable함을 보이며, 이는 무모호성이 곧 결정성을 의미하지 않음을 시사한다.

이러한 한계를 극복하고자 ‘라인‑무모호(line‑unambiguous)’라는 새로운 개념을 제시한다. 여기서 라인은 열(column), 행(row), 혹은 대각선(diagonal) 중 하나이며, 인식 과정에서 한 라인을 완전히 결정한 뒤 다음 라인으로 이동할 때 선택이 유일하도록 제한한다. 구체적으로 열‑무모호 시스템은 왼쪽→오른쪽(또는 반대) 스캔 중 각 열을 결정할 때 가능한 다음 열이 하나뿐임을 보장한다. 행‑무모호와 대각선‑무모호도 동일한 원칙을 적용한다.

이러한 제한은 무모호성과 완전한 결정성 사이의 중간 지점을 제공한다. 라인‑무모호 시스템은 각 스텝에서 최대 m 또는 n(그림의 행·열 수) 단계의 백트래킹만 허용하므로, 전통적인 비결정적 시스템보다 훨씬 효율적인 선형‑시간 인식 알고리즘을 설계할 수 있다. 논문은 다음과 같은 주요 결과를 증명한다.

1. 계층 구조:

   • Col‑UREC ⊂ UREC, Row‑UREC ⊂ UREC이며, 두 클래스는 서로 독립적이다.
   • Diag‑UREC는 Col‑UREC와 Row‑UREC 모두에 엄격히 포함된다.
   • Col‑UREC ∪ Row‑UREC는 Snake‑DREC이라는 새로운 결정적 클래스와 동등함을 보인다.

2. 폐쇄성: 모든 라인‑무모호 클래스는 보완에 대해 닫혀 있다. 이는 REC가 보완에 대해 닫히지 않은 것과 대조적이며, 라인‑무모호 제한이 결정적 성질을 회복시킨다.

3. 판정 가능성: 라인‑무모호 여부는 알고리즘적으로 결정 가능하며, 구체적인 판정 절차와 복잡도 분석을 제공한다. 반면, 일반적인 UREC 여부는 불가능함을 기존 결과와 일치시킨다.

4. 결정적 대응: 특히 Diag‑UREC는 DR‑REC이라는 결정적 타일링 시스템과 동형임을 증명한다. 이는 대각선 스캔이 전역적인 결정성을 보장함을 의미한다.

결과적으로, 논문은 REC 내부에 ‘선형‑시간 결정적’ 서브클래스를 체계적으로 정의하고, 이들 클래스가 기존의 무모호·비결정적 모델과 어떻게 연결되는지를 명확히 한다. 이는 2차원 언어 이론에서 복잡도와 결정성 사이의 균형을 탐구하는 중요한 발판이 된다.