대규모 블록 인코딩을 활용한 소프트웨어 모델 검증

초록

본 논문은 기존의 단일 블록 인코딩(SBE) 방식이 프로그램 경로 폭발 문제를 일으키는 점을 지적하고, 보다 큰 코드 블록을 하나의 전이로 묶는 대규모 블록 인코딩(LBE)을 제안한다. LBE는 추상 도달 가능 트리(ART)의 전이 수를 지수적으로 감소시켜 탐색 효율을 크게 향상시킨다. 또한 상태 표현을 단순한 합성(conjunction)에서 일반 부울 식으로 확장하고, 추상 후속 계산을 카테시안(predicate)에서 부울(predicate) 추상화로 전환함으로써 최신 SMT 솔버의 강력한 논리 연산 능력을 활용한다. 실험 결과, C 프로그램 벤치마크에서 LBE가 SBE 대비 현저히 빠른 검증 성능을 보였다.

상세 분석

소프트웨어 모델 검증에서 가장 널리 사용되는 기법 중 하나인 추상 도달 가능 트리(ART) 기반 접근법은 프로그램의 제어 흐름 그래프(CFG)를 전개하면서 각 노드에 추상 상태를 할당하고, 전이를 통해 상태 공간을 탐색한다. 전통적인 단일 블록 인코딩(SBE)은 CFG의 각 기본 블록을 하나의 전이로 매핑한다. 이 방식은 구현이 단순하고 각 전이에 대한 전후 관계를 명확히 파악할 수 있다는 장점이 있지만, 복잡한 루프와 조건문이 중첩될 경우 가능한 경로 수가 급격히 증가한다. 경로 폭발은 메모리 사용량과 탐색 시간 모두를 비효율적으로 만든다.

논문은 이러한 한계를 극복하기 위해 전이를 더 큰 코드 조각, 즉 “대규모 블록”으로 정의한다. 구체적으로, 연속적인 기본 블록들을 하나의 합성 블록으로 결합하고, 이 블록 전체를 하나의 전이로 취급한다. 이를 위해 먼저 CFG를 블록 단위로 분할한 뒤, 블록 간의 종속성을 분석해 병합 가능한 후보를 식별한다. 병합 기준은 제어 흐름이 직선적이며, 사이클(루프)이나 분기점이 없는 구간을 우선적으로 선택한다. 이렇게 형성된 LBE 전이는 기존 SBE 전이보다 훨씬 적은 수를 가지므로, ART의 깊이와 폭이 동시에 감소한다.

또한 상태 표현 방식을 확장한다. SBE에서는 추상 상태를 변수와 논리식의 합성(conjunction) 형태로만 표현했으며, 이는 각 변수에 대한 독립적인 제약만을 담을 수 있었다. 그러나 실제 프로그램에서는 변수 간 복합 관계가 빈번히 발생한다. 논문은 이를 해결하기 위해 부울 식(Boolean formula) 형태의 추상 상태를 허용한다. 부울 식은 AND, OR, NOT 연산을 자유롭게 조합할 수 있어, 복잡한 상호 의존성을 하나의 식으로 압축한다.

추상 후속 계산 역시 중요한 개선점이다. 기존 SBE는 카테시안(predicate) 추상화를 사용해 각 프레디케이트를 독립적으로 평가하고, 그 결과를 단순히 교집합으로 결합한다. 이는 연산 비용을 낮추지만, 프레디케이트 간 논리적 상호 작용을 무시한다는 단점이 있다. 논문에서는 부울(predicate) 추상을 도입해, 모든 프레디케이트를 하나의 부울 식으로 결합한 뒤 SMT 솔버에 전달한다. 최신 SMT 솔버는 이러한 복합 부울 식을 효율적으로 만족성 검사하고 모델을 생성할 수 있기 때문에, 대규모 블록 전이에 대한 정확하고 빠른 후속 상태를 얻을 수 있다.

실험에서는 SV-COMP와 같은 공개 벤치마크의 C 프로그램들을 대상으로 LBE와 SBE를 비교하였다. 결과는 두드러졌다. LBE는 전이 수를 평균 10배 이상 감소시켰으며, 전체 검증 시간도 평균 6배 가량 단축되었다. 특히 복잡한 루프와 다중 분기가 결합된 사례에서 LBE는 메모리 사용량도 크게 낮추어, 기존 SBE가 메모리 초과로 실패하던 경우에도 성공적으로 검증을 마쳤다. 이러한 결과는 대규모 블록 인코딩이 경로 폭발 문제를 근본적으로 완화하고, SMT 기반 부울 추상화와의 시너지 효과가 검증 효율을 크게 끌어올린다는 것을 입증한다.

요약하면, 논문은 (1) 전이 단위를 확대해 ART의 구조적 복잡성을 감소시키는 LBE 기법, (2) 부울 식 기반 추상 상태와 부울(predicate) 추상을 도입해 상태 표현과 후속 계산의 정밀도와 효율성을 동시에 향상시킨다는 두 가지 핵심 기여를 제시한다. 이 접근법은 기존 모델 검증 프레임워크에 비교적 간단히 통합될 수 있으며, 특히 대규모 소프트웨어 시스템의 자동 검증에 실용적인 이점을 제공한다.