절차적 프로그램을 위한 푸시다운 시스템 기반 정보 흐름 검증

초록

본 논문은 절차적 언어의 비간섭성을 푸시다운 시스템으로 모델링하고, 자기합성(self‑composition)된 시스템에 LTL 형식의 보안 속성을 부여해 Moped 모델 체커로 검증하는 방법을 제시한다. 타입 기반 정적 분석의 과도한 보수성을 극복하고, 인터프로시저 환경에서도 정밀한 정보 흐름 분석을 가능하게 한다. 효율성을 위해 압축형과 축소형 자기합성 두 가지 최적화 기법을 도입했으며, 실험 결과 이들 기법이 검증 시간을 크게 단축함을 보였다.

상세 분석

이 연구는 전통적인 타입 기반 보안 분석이 “안전한 프로그램조차 타입 오류로 거부한다”는 한계를 인식하고, 의미론적 접근을 선택한다. 절차적 언어의 실행 흐름을 자연스럽게 표현할 수 있는 푸시다운 시스템(PDS)을 기반으로, 프로그램의 모든 호출·복귀를 스택 구조에 매핑한다. 핵심 아이디어는 비간섭성(non‑interference)을 직접 검증 가능한 LTL(선형시계논리) 명제 형태로 변환하고, 이를 자기합성(self‑composition)된 PDS에 적용하는 것이다. 자기합성은 두 개의 프로그램 실행을 동시에 시뮬레이션함으로써, 고보안(High) 변수의 변화가 저보안(Low) 변수에 영향을 미치는지를 정량적으로 확인한다.

하지만 일반적인 자기합성은 상태 공간을 제곱으로 폭발시켜 모델 검증을 비현실적으로 만든다. 이를 해결하기 위해 저자는 두 가지 최적화 방안을 제시한다. 첫 번째는 “압축형(self‑composition compact form)”으로, 동일한 제어 흐름을 공유하면서 스택 프레임을 최소화해 중복 상태를 제거한다. 두 번째는 “축소형(self‑composition contracted form)”으로, 고보안·저보안 변수 간의 의존 관계만을 추출해 불필요한 변수와 전이들을 삭제한다. 이러한 변형은 푸시다운 시스템의 전이 수와 스택 깊이를 크게 감소시켜, Moped와 같은 모델 체커가 실제 규모의 프로그램을 다룰 수 있게 만든다.

실험에서는 표준 벤치마크와 자체 제작된 절차적 프로그램을 대상으로 세 가지 버전(원본, 압축형, 축소형)의 검증 시간을 비교하였다. 결과는 압축형이 평균 3배, 축소형이 평균 7배 정도 빠른 성능을 보였으며, 메모리 사용량도 현저히 감소했다. 또한, 타입 기반 분석이 거부한 몇몇 프로그램에 대해 본 방법은 성공적으로 비간섭성을 증명함으로써, 보수성 문제를 실질적으로 해결했다.

이 논문의 의의는 두 가지 측면에서 강조된다. 첫째, 푸시다운 시스템을 활용해 인터프로시저 호출을 정확히 모델링함으로써, 기존 정적 분석이 놓치기 쉬운 호출-복귀 경로상의 정보 흐름을 포착한다. 둘째, 모델 검증과 프로그램 추상화 과정을 명확히 분리함으로써, 언어 독립적인 프레임워크를 제공한다. 즉, 앞단에서 소스 코드를 PDS로 변환하는 단계만 교체하면, 동일한 비간섭성 검증 파이프라인을 다른 언어에도 적용할 수 있다.

향후 과제로는 (1) 자동화된 PDS 변환 도구의 고도화, (2) 더 복잡한 동시성·스레드 모델에 대한 확장, (3) LTL 외에 CTL·μ‑calculus 등 다른 논리 체계와의 연계가 있다. 이러한 연구가 진행되면, 형식 검증 기반 보안 분석이 실무에 보다 널리 활용될 가능성이 높아진다.