Coq에서 해시‑컨싱 구현과 검증: 네 가지 설계 패턴의 비교

초록

이 논문은 Coq 프로그램에서 해시‑컨싱을 구현하는 네 가지 방법을 제시하고, 내부 실행과 OCaml 추출 실행 두 경우에 대한 성능·정합성·증명 가능성을 비교한다. 주요 사례로 이진 결정 다이어그램(BDD)을 사용해 설계 패턴을 설명하고, 각 접근법의 장단점을 정리한다.

상세 분석

논문은 먼저 Coq에서 메모이제이션을 구현하는 기존 기법을 검토한다. 상태 모나드 기반의 전통적 접근은 모든 호출자를 모나드 형태로 바꾸어야 하는 번거로움이 있지만, 고정점 조합자를 메모이제이션할 수 있다는 점에서 유일하게 만족한다. 그 외에 공변적 코인듀시브 스트림을 이용한 얕은 메모이제이션, 추출된 코드에서만 동작하는 조정 가능한 레퍼런스 등도 소개하지만, BDD와 같은 복잡한 구조에서는 적용이 어렵다.

이후 BDD를 해시‑컨싱과 강제 축소가 적용된 데이터 구조의 대표 사례로 채택한다. BDD는 변수 순서를 고정하고, 동일한 서브트리를 공유함으로써 고유 식별자를 부여받는다. 이 고유 식별자는 해시와 동등성 검사의 핵심이며, 메모이제이션 테이블의 키가 된다.

네 가지 구현 패턴은 다음과 같다.

1. pure‑deep(§5.1) – Coq 내부에서 유한 맵을 사용해 메모리를 모델링하고, 인덱스를 포인터 대용으로 둔다. 모든 노드와 해시‑컨싱 풀을 순수 함수형 자료구조로 표현하므로 추출 후에도 동일한 동작을 보장한다. 그러나 메모리 접근이 깊게 중첩돼 실행 효율이 낮고, 증명 시에도 맵 업데이트와 인덱스 관리에 대한 복잡한 인버리언트를 유지해야 한다.

2. pure‑shallow(§5.2) – 메모리를 얕게 임베딩해, 각 노드가 직접 해시‑컨싱 풀에 대한 레퍼런스를 갖는다. Coq의 코인듀시브 스트림을 활용해 지연 평가와 캐시를 결합한다. 이 방식은 구현이 간단하고 증명 부담이 적지만, 추출된 OCaml 코드에서는 전역 해시‑테이블을 활용하지 못해 성능이 크게 저하된다.

3. smart(§6.1) – Coq 추출 메커니즘을 이용해, 추출 단계에서 OCaml의 가변 해시‑테이블과 고유 식별자 카운터를 삽입한다. Coq 내부에서는 추상화된 인터페이스만 제공하고, 실제 공유와 메모이제이션은 추출된 코드에서 수행된다. 따라서 실행 속도는 최적에 가깝지만, Coq 내부에서의 실행은 제한적이며, 추출 전후의 동작 차이를 증명하기 위해 별도의 공리화가 필요하다.

4. smart+uid(§6.2) – 앞선 smart 접근에 고유 식별자 연산을 명시적으로 공리화한다. 이를 통해 Coq 수준에서 식별자 비교와 해시 연산의 성질을 명시적으로 기술하고, 추출된 코드와의 일관성을 증명한다. 이 패턴은 가장 높은 수준의 신뢰성을 제공하지만, 공리와 그에 대한 증명 부하가 가장 크다.

각 패턴은 “최대 공유 보장”, “Coq 내부 실행 가능성”, “추출 후 성능”, “증명 난이도” 네 축에서 서로 다른 트레이드오프를 보인다. 논문은 실험적으로 BDD 연산(특히 AND, OR, XOR)의 실행 시간을 측정해, smart와 smart+uid가 추출된 OCaml에서 수십 배 빠른 반면, pure‑deep는 메모리 사용량이 크게 늘고, pure‑shallow는 추출 후 성능이 급격히 저하되는 것을 확인한다. 또한, 증명 관점에서는 pure‑deep와 pure‑shallow가 Coq 내부에서 완전한 정합성을 보장하기 쉬운 반면, smart 계열은 공리화와 외부 라이브러리 의존성 때문에 추가적인 검증 작업이 필요함을 강조한다.

결론적으로, 사용 목적에 따라 적절한 설계 패턴을 선택해야 하며, 내부 검증이 핵심인 경우 pure‑deep 혹은 pure‑shallow가, 실용적인 모델 체킹이나 정적 분석 도구에 통합하려는 경우 smart 혹은 smart+uid가 더 적합하다는 실용적 가이드를 제공한다.