시간 보안 프로토콜 검증을 위한 BMC4TimeSec 도구

초록

BMC4TimeSec는 SMT 기반 제한 모델 검증과 Timed Interpreted Systems(TIS)·Timed Interleaved Interpreted Systems(TIIS)를 활용해 시간 제약이 포함된 보안 프로토콜을 자동으로 검증하는 도구이다. Alice‑Bob 형식과 JSON 해석 파일을 입력으로 받아 다중 세션·시간 지연·메시지 수명 등을 모델링하고, Z3 SMT 솔버를 통해 공격 시나리오를 탐색한다. 구현은 파이썬 파서·C++ 포뮬러 생성·Flask 기반 GUI로 구성되며, 기존 VerSecTis 대비 실행 환경·공격 다양성·사용자 친화성을 크게 확장하였다.

상세 분석

본 논문은 시간 보안 프로토콜(TSP)의 특수성을 고려한 형식적 검증 프레임워크를 제시한다. 핵심은 전역 상태를 각 에이전트와 환경의 로컬 상태로 구성하는 Timed Interleaved Interpreted Systems(TIIS) 모델이다. 환경 자동화는 프로토콜 세션별 실행 자동자(execution automata)로 구현되며, 여기서는 단계(step) 간 인터리빙, 최소 전송 지연, 티켓·타임스탬프 클록 및 유효 기간(lifetime) 등을 명시적으로 제어한다. 에이전트는 지식 자동자(Knowledge Automata) 𝐾(a,t) 로 표현되는데, 이는 에이전트 a가 메시지 t를 언제 알게 되는지를 시간적으로 추적한다. 특히 침입자 모델은 Dolev‑Yao 모델을 확장한 gating 메커니즘을 도입해, 특정 메시지를 구성하기 위한 지식 전제가 충족될 때만 행동을 허용한다는 점에서 현실적인 공격 가능성을 반영한다.

입력 파이프라인은 (i) Alice‑Bob 표기법 기반 프로토콜 정의, (ii) 시나리오별 변형을 기술한 JSON 파일, (iii) 세션 수 k 로 구성된다. 파서는 이를 바탕으로 다중 세션 실행 트리를 생성하고, 각 단계에 대한 지연·수명 제약을 부여한 SMT‑BMC 포뮬러를 만든다. 포뮬러는 EF(ψ) 형태의 도달 가능성(property)로, ψ는 세션 종료와 침입자의 특정 지식 보유(K(I, secret))를 결합한다. 생성된 SMT‑LIB2 스크립트는 Z3에 전달되어 만족 여부를 판단하고, 만족하지 않을 경우 반례(trace)를 추출한다. 반례는 GUI에서 단계별로 시각화되어, TIS/TIIS 상태 전이와 지식 변화 과정을 직관적으로 파악할 수 있다.

기술적 혁신은 다섯 가지 축으로 정리된다. 첫째, 시간 기반 실행 모델과 지식 모델을 하나의 통합 프레임워크에 결합한 최초 사례이다. 둘째, 다중 세션·인터리빙을 자연스럽게 지원함으로써 기존 단일 세션 검증이 놓치는 교차 세션 공격을 포착한다. 셋째, JSON 기반 시나리오 정의를 통해 사용자가 프로토콜 변형·공격 시나리오를 코드 수정 없이 추가할 수 있다. 넷째, SMT‑BMC를 TIIS에 적용함으로써 밀집 시간(dense time) 모델링과 제한된 트레이스 길이에 대한 효율적인 탐색을 가능하게 한다. 다섯째, 반례 시각화와 보고서 자동 생성 기능을 제공해 비전문가도 검증 결과를 이해하도록 돕는다.

비교 대상인 VerSecTis와의 차별점은 환경·에이전트의 모듈화, TIIS 기반 인터리빙, 그리고 풍부한 공격 시나리오 라이브러리이다. 특히 기존 도구가 지원하지 않았던 (i) 세션 간 메시지 재플레이, (ii) 시간 의존적 믹스‑업 공격, (iii) 비주입 인증 위반 등 복합적인 시간·지식 기반 공격을 실험적으로 검증하였다.