ACL2 정리 비트 블라스팅 기법

초록

본 논문은 ACL2에서 유한 정리를 자동으로 증명하기 위한 GL 프레임워크를 소개한다. GL은 비트‑레벨 표현을 이용해 BDD 또는 SAT 기반 엔진으로 “비트‑블라스팅”을 수행하고, 심볼릭 실행을 통해 정리의 결론이 거짓이 될 수 없음을 검증한다. 저자는 정수 연산, 부동소수점 연산, UTF‑8 디코딩 등 다양한 사례에서 GL의 효율성을 실증한다.

상세 분석

GL은 ACL2 객체를 비트 수준의 부울식으로 변환한 뒤, 이를 심볼릭 객체(symbolic object) 형태로 다룬다. 숫자는 (:g-number …) 형태로, 각 비트는 독립적인 부울 변수 혹은 부울식으로 표현되며, 부울식은 BDD(이진 결정 다이어그램) 혹은 AIG(And‑Inverter Graph) 구조로 저장된다. GL은 이러한 심볼릭 객체에 대해 ACL2 기본 연산을 그대로 구현한 심볼릭 연산자를 제공한다. 예를 들어 두 :g-number 객체를 더할 때는 전통적인 리플‑캐리 알고리즘을 부울식 수준에서 수행해 새로운 BDD/AIG를 만든다. 이 과정은 함수 정의를 전개하고, 기본 연산에 도달할 때까지 재귀적으로 진행되는 McCarthy‑style 인터프리터와 동일하게 동작한다.

정리 증명은 크게 세 단계로 이루어진다. 첫째, 사용자는 def-gl-thm 명령을 통해 가설(:hyp)과 결론(:concl)을 명시하고, 각 자유 변수에 대해 :g-bindings를 제공한다. 여기서 g-int와 같은 헬퍼를 사용해 변수들을 비트‑벡터 형태로 초기화한다. 둘째, GL은 가설을 이용해 초기 심볼릭 객체의 범위를 축소한다. 예를 들어 unsigned-byte-p 32 x 가정이면 부호 비트를 고정해 32‑비트 무부호 범위만을 표현하도록 최적화한다. 셋째, 결론을 심볼릭 실행한 뒤 얻어진 심볼릭 결과가 nil을 표현할 수 없는지 검사한다. BDD 모드에서는 결과가 논리적 상수 t가 되므로 즉시 증명이 완료되고, AIG 모드에서는 생성된 부울식이 SAT 솔버에 전달돼 불만족성(unsatisfiable)임이 확인된다.

GL은 자동 반례 생성 기능도 제공한다. 정리가 성립하지 않을 경우, 부울 변수에 대한 할당을 찾아 nil을 만들 수 있는 경우를 제시한다. 논문에서는 32‑비트 비트‑카운트 알고리즘을 예시로 들어, 초기 구현에서 32‑비트 곱셈을 누락했을 때 GL이 세 개의 반례를 자동으로 찾아낸 과정을 보여준다.

성능 측면에서 GL은 전통적인 전수 테스트와 비교해 월등히 빠르다. 동일한 32‑비트 비트‑카운트 정리를 전수 테스트로 검증하면 143초가 소요되는 반면, GL은 0.09초에 증명한다. 64‑비트와 128‑비트 확장에서도 각각 0.18초, 0.58초로 여전히 실시간 수준이다. 또한 UTF‑8 4‑바이트 시퀀스의 정합성 검증에서도 전수 테스트가 67초 걸리는 반면, GL은 0.17초에 증명한다.

GL의 확장성은 BDD와 AIG 두 가지 백엔드 선택에 달려 있다. BDD는 canonical 형태라 식 동등성을 즉시 판단할 수 있지만 메모리 사용량이 급증할 수 있다. AIG는 메모리 효율이 높고 SAT 솔버와 결합해 복잡한 부울식도 빠르게 처리한다. 논문은 각 백엔드의 장단점을 사례별로 분석하고, 필요 시 def-gl-thm 옵션을 조정해 최적의 모드를 선택하는 방법을 제시한다.

마지막으로 GL 사용 시 디버깅을 돕는 도구와 기법도 소개한다. 심볼릭 실행 과정에서 생성된 중간 객체를 출력하거나, BDD/AIG 그래프를 시각화해 병목을 찾을 수 있다. 또한 가설이 충분히 강력하지 않아 범위 축소가 실패할 경우, :g-bindings를 재설계하거나 함수 정의를 재작성해 성능을 회복할 수 있다. 전체적으로 GL은 인간의 직관적 이해 없이도 복잡한 하드웨어·소프트웨어 정리를 자동으로 증명할 수 있는 강력한 도구임을 입증한다.