전처리와 BDD 크기 한계: 모델 검증의 근본적 복잡성

초록

이 논문은 모델 검증에서 모델이나 공식에 대한 사전 전처리를 수행하더라도 전체 복잡도는 변하지 않으며, 심볼릭 모델 검증에 사용되는 BDD와 그 변형 자료구조는 최악의 경우 초다항식 크기로 증가한다는 것을 증명한다.

상세 분석

본 연구는 두 가지 핵심 질문에 답한다. 첫째, 모델 검증 과정에서 모델이나 공식에 대해 다항 시간 전처리를 수행하고, 그 결과를 다항 크기의 데이터 구조에 저장한 뒤 검증을 진행하더라도 전체 문제의 복잡도는 전처리 없는 경우와 동일하게 PSPACE‑complete 수준임을 보인다. 이를 위해 저자는 전처리 단계와 검증 단계의 연산을 각각 다항 시간으로 제한하고, 전처리 결과를 이용한 알고리즘이 기존의 온‑라인 검증 알고리즘과 동일한 복잡도 하위 집합에 머무른다는 형식적 증명을 제시한다. 이러한 결과는 전처리가 이론적으로는 지수적 가속을 제공하지 못한다는 의미이며, 실제 도구 설계 시 전처리의 효용을 기대하기 전에 근본적인 복잡도 한계를 인식해야 함을 시사한다.

둘째, 심볼릭 모델 검증에서 상태 집합을 표현하기 위해 널리 사용되는 BDD(Binary Decision Diagram)와 그 변형인 BED, RBC, MTBDD, ADD 등에 대해 최악의 경우 크기 증가가 초다항식, 즉 지수적으로 성장한다는 것을 엄밀히 증명한다. 저자는 특정 클래스의 전이 시스템과 CTL·LTL·μ‑calculus 공식들을 구성하여, 해당 시스템의 상태 집합을 정확히 표현하려면 어떤 변수 순서와 자료 구조를 사용하더라도 BDD의 노드 수가 입력 크기의 지수 함수와 동등하게 커져야 함을 보였다. 이때 변수 순서 최적화가 가능한 경우에도, 구조 자체가 복잡도 하한을 만족하도록 설계되었기 때문에 최적화가 효과를 제한한다. 이러한 증명은 기존에 실험적으로 관찰된 “BDD 폭발” 현상이 단순히 구현상의 부조리나 변수 순서 선택의 문제에 국한되지 않고, 이론적으로 회피할 수 없는 현상임을 확증한다.

결과적으로, 전처리와 BDD 기반 심볼릭 검증 모두가 근본적인 복잡도 장벽에 부딪히며, 실제 시스템 규모가 커질수록 메모리와 시간 요구량이 급격히 상승한다는 점을 명확히 한다. 이는 연구자와 엔지니어가 새로운 데이터 구조나 알고리즘을 고안할 때, 단순히 전처리나 변수 순서 최적화에 의존하기보다 근본적인 복잡도 이론을 고려해야 함을 강조한다.