CPSA 실행 결과를 논리 문장으로 추출하여 보안 목표 검증

초록

본 논문은 CPSA(암호 프로토콜 형태 분석기)의 실행 과정을 하나의 일차 논리식으로 변환하는 방법을 제시한다. 변환된 문장은 모델 이론적 해석을 통해 보안 목표의 충족 여부를 자동으로 판단할 수 있게 하며, 구현체가 공개되어 실무에 바로 적용 가능하다.

상세 분석

Guttman이 제안한 Strand Space 이론은 프로토콜 실행을 ‘strand’라는 시간 순서가 있는 메시지 흐름으로 모델링하고, 보안 목표는 이러한 strand들의 집합이 특정 구조를 만족하는지 여부로 정의한다. CPSA는 주어진 초기 가정(초기 strand)으로부터 가능한 최소한의 실행 형태(‘shape’)들을 탐색해 반환한다. 기존 방법에서는 CPSA가 산출한 shape들을 인간이 직접 검토하거나, 별도의 도구를 이용해 목표와 매칭시켜야 했으며, 이는 오류 가능성을 내포한다.

본 논문은 이러한 과정을 완전한 논리 문장, 즉 ‘shape analysis sentence’(SAS)으로 정형화한다. 핵심 아이디어는 다음과 같다. 첫째, CPSA가 생성한 각 shape를 일차 논리식의 원자적 사실(atom)으로 매핑한다. 여기에는 메시지 전송·수신, 키 소유, 비밀성, 인증 관계 등이 포함된다. 둘째, shape 간의 포함 관계와 전이 관계를 논리적 함의(implication)로 표현한다. 셋째, 초기 가정과 목표를 동일한 논리 언어로 기술함으로써, 목표가 초기 가정으로부터 논리적으로 도출되는지를 자동 증명기(예: Prover9, Z3)에게 질문한다.

이 접근법의 장점은 두 가지이다. 첫째, CPSA가 산출한 모든 가능한 실행 형태를 하나의 논리식에 압축함으로써, 인간이 일일이 검토할 필요 없이 자동화된 정리 증명에 맡길 수 있다. 둘째, 논리식 자체가 ‘완전성’(completeness)을 보장한다. 즉, 해당 논리식이 참이면 모든 가능한 실행이 목표를 만족한다는 의미이며, 반대로 거짓이면 최소 하나의 반례가 존재한다는 것을 즉시 알 수 있다.

구현 측면에서는 기존 CPSA 파이프라인에 후처리 모듈을 삽입해 shape를 파싱하고, 미리 정의된 논리 템플릿에 맞춰 SAS를 생성한다. 생성된 SAS는 TPTP(Thousands of Problems for Theorem Provers) 형식으로 출력되어, 다양한 자동 증명기와 호환된다. 실험 결과, RSA 기반 인증 프로토콜, Needham‑Schroeder 공개키 프로토콜, 그리고 최신 IoT 경량 암호 프로토콜에 대해 목표 검증 시간을 수 초 내로 단축했으며, 기존 수동 검증에 비해 오류 발생률을 현저히 낮췄다.

또한, 논문은 SAS가 ‘증명 가능한 보안 목표’와 ‘증명 불가능한 보안 목표’를 구분하는 기준을 제공한다는 점을 강조한다. 목표가 논리적으로 불가능한 경우, CPSA가 반환한 shape 중 하나가 직접적인 반례가 되므로, 프로토콜 설계 단계에서 즉시 수정이 가능하다. 이러한 피드백 루프는 프로토콜 개발 주기를 크게 단축시키는 효과를 기대한다.

마지막으로, 논문은 향후 연구 방향으로 형식적 보안 목표의 자동 추출, 다중 프로토콜 상호작용 분석, 그리고 양자 내성 암호 프로토콜에 대한 확장 가능성을 제시한다.