가시적 트리 자동자와 메모리 제약

1. 서론에서는 프로그램 제어 흐름을 스택이 아닌 트리 형태로 모델링해야 하는 경우(예: 함수형 언어의 continuation, 비동기 멀티스레드)와 기존 ‘tree automata with one memory’가 갖는 결정성·닫힘 부족 문제를 제시한다. 이를 해결하기 위해 가시적 푸시다운 자동자(VPA)의 아이디어를 트리 메모리 자동자에 도입한다는 연구 목표를 밝힌다. 2. 사전 지식 섹션에서는 용어 정의(시그니처, 용어 대수, 재작성 시스템, 전통적인 bottom‑up 트리 자동자)를 정리하고, 메모리 시그니처 Γ와 상태 집합 Q를 포함하는 ‘tree automaton with memory (TAM)’를 공식화한다. TAM은 전이 규칙을 재작성 규칙 형태로 표현하며, 구성은 상태와 메모리 트리 쌍(q(m))으로 나타낸다. 3. ‘Visibly Tree Automata with Memory (VTAM)’ 정의에서는 Σ를 여덟 개의 서브셋(PUSH, POP₁₁, POP₁₂, POP₂₁, POP₂₂, INT₀, INT₁, INT₂)으로 분할하고, 각 서브셋에 대응하는 전이 형태를 명시한다. PUSH 전이는 새로운 메모리 노드를 h에 결합해 삽입하고, POP 전이는 두 자식 중 하나의 서브트리를 선택해 반환한다. INT 전이는 현재 메모리를 그대로 유지하거나 특정 자식 메모리를 선택한다. 모든 전이는 심볼 종류에 의해 고정되므로 가시성 조건이 만족된다. 4. 가시성에 기반한 결정화 절차를 제시한다. 상태 집합을 메모리 내용의 집합으로 확장한 ‘deterministic VTAM’을 구성하고, 전이 함수가 유한함을 증명한다. 이 과정에서 전통적인 VPA의 ‘stack height’ 개념을 트리 메모리 깊이와 대응시켜, 각 단계에서 가능한 메모리 형태가 유한히 제한됨을 보인다. 5. 결정화 결과를 이용해 Boolean 연산(합, 교, 여집합)에 대한 닫힘을 증명한다. 두 VTAM 언어의 교집합은 각 자동자의 상태 쌍을 사용해 구성한 새로운 VTAM으로 표현 가능하고, 보완은 결정화된 자동자의 보완 상태 집합을 통해 얻어진다. 6. 주요 결정 문제(emptiness, membership, inclusion, universality)의 복잡도와 알고리즘을 제시한다. emptiness는 결정화된 자동자의 reachable 상태 탐색으로 EXPTIME 안에 해결되며, membership은 입력 트리를 한 번 스캔하는 다항 시간 알고리즘으로 처리된다. inclusion과 universality는 complement과 교집합을 이용해 동일한 복잡도 범위 내에서 결정 가능함을 보인다. 7. 제약이 부가된 VTAM 확장(Section 3)에서는 메모리 간 관계(동등성, 구조적 동등성, 부정 동등성)와 입력 트리 형제 간 비교(Bogaert‑Tison 제약)를 허용한다. 제약은 ‘recognizable relation’ 형태로 정의되며, 이러한 관계가 정규 언어로 표현될 수 있을 때 emptiness가 결정 가능함을 일반 정리(조건 R)로 제시한다. 8. 특히 구조적 동등성(≡)과 부정 동등성(≠)을 허용하는 VTAM≡ 클래스는 조건 R을 만족하므로, 결정화와 Boolean 닫힘을 그대로 유지한다. 이를 위해 메모리 언어가 2‑way alternating tree automaton으로 인식된다는 사실을 이용하고, 포화 기법을 적용해 해당 교대 자동자를 표준 트리 자동자로 변환한다. 9. 표현력 평가에서는 VTAM과 VTAM≡가 균형 이진 트리, 레드‑블랙 트리, 파워리스트 등 복잡한 구조적 제약을 가진 언어들을 자연스럽게 기술함을 보여준다. 또한, 메모리와 입력 트리 사이의 동등성·비동등성 테스트를 결합한 최종 모델은 프로그램 흐름 분석, 보안 프로토콜 검증 등에 유용한 표현력을 제공한다. 10. 관련 연구와 비교에서는 기존 푸시다운 트리 자동자(VPTL), 가시적 트리 자동자(Visibly Tree Automata), 그리고 일반 tree automata with one memory를 논의한다. VTAM은 VPTL보다 일반적이면서도 결정화·닫힘을 유지하고, 일반적인 tree automata with one memory보다 닫힘이 강화된 점을 강조한다. 11. 결론에서는 VTAM이 가시성 원칙을 트리 메모리 자동자에 성공적으로 적용함으로써, 결정화·Boolean 닫힘·다양한 제약 하에서도 결정 가능성을 확보한 새로운 언어 클래스임을 정리한다. 향후 연구 방향으로는 더 높은 차수의 메모리 연산, 비가시적 전이의 제한적 도입, 그리고 실용적인 모델 검증 도구 구현을 제시한다.