소프트웨어 검증을 위한 라플라스 불변량 최적화

본 논문은 제어 이론의 라플라스 함수와 볼록 최적화 기법을 소프트웨어 검증에 적용하는 새로운 프레임워크를 제시한다. 저자들은 먼저 프로그램을 이산‑시간 동적 시스템 S(X,f,X₀,X∞) 로 모델링한다. 여기서 상태공간 X는 프로그램 변수들의 가능한 값들을 포함하고, 초기집합 X₀와 종료집합 X∞는 각각 프로그램 시작과 종료 조건을 정의한다. 전이함수 f는 현재 상태와 입력·파라미터에 따라 다음 가능한 상태들의 집합을 반환한다. 이러한 모델은 프로그램의 모든 실행 경로를 수학적으로 정확히 포착한다. 구체적 모델(C‑representation)은 실제 비트‑정밀도와 연산을 그대로 반영한다. 그러나 비정수 연산, 부동소수점 오차, 복잡한 비선형 연산 등으로 인해 전이함수가 매우 복잡해질 수 있다. 이를 해결하기 위해 저자는 추상적 모델(A‑representation)을 도입한다. 추상화는 상태공간을 실수공간으로 확장하고, 연산을 다항식 근사·구간 근사 등으로 대체한다. 이 과정에서 모든 실제 실행은 추상 모델의 실행에 포함되도록 보장한다. 프레임워크의 핵심은 “라플라스 불변량”(Lyapunov invariant)이다. 라플라스 불변량 V : X → ℝ 은 프로그램 실행 중 V값이 비증가(또는 일정 비율 감소)한다는 차이 부등식 V(f(x)) − V(x) ≤ 0 혹은 V(f(x)) − V(x) ≤ −α·‖x‖ 를 만족한다. 이러한 부등식이 모든 가능한 전이와 초기조건에 대해 성립하면, V는 프로그램이 지정된 안전·성능 사양을 위반하지 않음을 보증한다. 예를 들어, 오버플로 방지를 위해 V를 변수의 절대값 상한으로 정의하고, 차이 부등식이 양수이면 오버플로가 발생하지 않음을 증명한다. 라플라스 불변량을 찾는 문제는 최적화 문제로 변환된다. 저자는 후보 함수 공간을 다항식(선형, 2차, 고차)으로 제한하고, 차이 부등식을 다항식 부등식 형태로 전개한다. 이후 이를 반정밀(LMI) 혹은 Sum‑of‑Squares(SOS) 제약으로 변환해 SDP 혹은 SOS 프로그램으로 풀 수 있다. 최적화 목표는 보통 가장 큰 감소율 α 를 최대화하거나, 특정 안전 마진을 만족하는 최소 V를 찾는 것이다. 이 과정은 기존의 LP, SDP, SOS 솔버를 그대로 활용할 수 있어 구현이 용이하다. 모델링 언어로는 세 가지가 제시된다. 첫째, Mixed‑Integer Linear Model(MILM)은 이진·연속 변수에 선형 제약을 부여해 조각별 선형 함수를 정확히 표현한다. 이는 복잡한 조건문과 루프를 선형 제약 집합으로 변환하는 데 유용하다. 둘째, Graph Model은 프로그램 흐름을 유향 그래프와 전이 라벨(다항식)로 기술한다. 각 노드는 프로그램 라인, 각 엣지는 조건·연산을 나타내며, 라벨은 상태 변환을 정의한다. 셋째, MIL‑over‑Graph Hybrid Model(MIL‑GHM)은 MILM과 Graph Model을 결합해, 그래프 구조 내에서 이진·연속 변수의 선형 제약을 동시에 다룰 수 있게 한다. 이러한 모델들은 추상화 단계에서 구간 근사, 다항식 근사 등을 적용해 계산 복잡도를 제어한다. 논문은 여러 사례 연구를 통해 프레임워크의 실효성을 검증한다. 정수 나눗셈 프로그램에서는 라플라스 불변량을 이용해 양수 입력에 대한 정상 종료와 오버플로 방지를 증명한다. 부동소수점 연산을 포함한 제어 루프에서는 부동소수점 오차와 클리핑을 고려한 추상 모델을 구축하고, SOS 최적화를 통해 유한 시간 종료와 변수 범위 제한을 보장한다. 또한, 기존 추상 해석 기법과 비교해 보수성이 크게 감소하고, 증명 성공률이 향상됨을 실험적으로 보여준다. 최적화 문제의 불가능성 결과는 즉시 사양 위반을 의미하므로, 검증 실패 원인을 빠르게 파악할 수 있다. 결론적으로, 이 연구는 라플라스 불변량이라는 수학적 증명서를 통해 소프트웨어 검증을 제어 이론의 최적화 기법과 연결한다. 기존 형식 검증(모델 체크, 추상 해석)과 차별화된 접근법으로, 연속·이산 혼합 시스템, 하이브리드 시스템, 그리고 제어 소프트웨어 등 복잡한 응용 분야에 자연스럽게 적용 가능하다. 또한, 라플라스 불변량을 자동으로 생성·최적화함으로써 설계자가 직관적인 안전 마진을 얻고, 검증 과정에서 발생하는 보수성을 최소화할 수 있다.