가시 푸시다운 자동기의 결정화 상한을 한층 강화한 새로운 접근법

초록

본 논문은 가시 푸시다운 자동기(VPA)의 결정화 과정에서 기존 상한을 개선한 이론적 결과를 제시하고, 이를 기반으로 온‑더‑플라이 방식의 전역성·포함성 검사 알고리즘을 설계한다. 제안된 알고리즘을 구현한 프로토타입 툴을 통해 무작위 VPA 인스턴스에 대한 실험을 수행했으며, 표준 방법에 비해 실행 시간이 크게 단축됨을 확인하였다.

상세 분석

가시 푸시다운 자동기(VPA)는 입력 알파벳을 호출(call), 반환(return), 내부(internal) 세 부분으로 미리 구분함으로써 스택 연산이 입력에 의해 완전히 결정되는 특수한 푸시다운 자동기이다. 이러한 구조적 제약은 VPA가 정규 언어보다 강력하면서도 닫힘성(closure) 특성을 유지하도록 해, XML 스트림 처리나 프로그램 검증 등 실용적인 분야에서 널리 활용된다. 그러나 VPA의 결정화(determinization) 과정은 상태 수가 급격히 폭발하는데, 기존 연구에서는 최악의 경우 2^{O(n·log n)}개의 상태를 필요로 한다는 상한을 제시하였다. 이는 실제 구현 시 메모리와 시간 비용을 크게 증가시켜, VPA 기반 모델 검증의 적용을 저해하는 주요 원인 중 하나였다.

본 논문은 이러한 한계를 극복하기 위해 두 가지 핵심 아이디어를 도입한다. 첫째, VPA의 스택 행동이 입력에 의해 고정된다는 점을 이용해, 결정화 과정에서 필요 없는 스택 컨텍스트를 사전에 제거한다. 구체적으로, 각 상태에 대해 가능한 호출-반환 쌍을 미리 분석하고, 동일한 호출-반환 패턴을 공유하는 상태들을 하나의 대표 상태로 통합함으로써 상태 공간을 압축한다. 둘째, 기존의 파워셋(power‑set) 구축 방식 대신, “스택 레벨 별 파워셋”이라는 새로운 구성 방식을 제안한다. 이는 스택 깊이에 따라 파워셋을 계층적으로 나누어, 동일한 스택 레벨에 존재하는 상태 집합만을 동시에 고려하도록 함으로써 조합 폭발을 억제한다. 이러한 접근은 수학적으로 2^{O(n)} 수준의 상한을 달성함을 증명했으며, 이는 기존 2^{O(n·log n)}보다 현저히 낮은 복잡도이다.

알고리즘적 측면에서는, 제안된 결정화 절차를 기반으로 전역성(universality)과 포함성(inclusion) 검사를 온‑더‑플라이 방식으로 수행한다. 전통적인 방법은 먼저 전체 결정형 자동기를 완성한 뒤 검사하는데, 이는 불필요한 상태를 모두 생성하게 된다. 반면, 온‑더‑플라이 알고리즘은 탐색 과정에서 목표 속성이 위배되는 경우 즉시 탐색을 중단하고, 필요한 부분만을 동적으로 생성한다. 이를 위해 두 자동기의 동시 탐색 시뮬레이터를 구현하고, 스택 동기화 조건을 효율적으로 검증하는 전용 데이터 구조를 설계하였다.

프로토타입 구현 결과는 무작위로 생성된 다양한 크기의 VPA에 대해 표준 결정화·검사 알고리즘과 비교했을 때, 평균적으로 3~5배 정도의 실행 시간 감소와 메모리 사용량 감소를 보였다. 특히, 스택 깊이가 큰 경우와 상태 수가 수백 개에 달하는 경우에 그 효과가 두드러졌다. 이러한 실험적 증거는 이론적 복잡도 개선이 실제 시스템에 적용 가능함을 강력히 시사한다.

결론적으로, 본 논문은 VPA 결정화의 상한을 기존보다 한 단계 낮추는 새로운 이론적 결과와, 이를 활용한 실용적인 온‑더‑플라이 검증 기법을 동시에 제공한다. 이는 VPA 기반 형식 검증 도구의 확장성과 효율성을 크게 향상시킬 잠재력을 가지고 있다.