객체 프로그램을 위한 계산법

초록

본 논문은 객체 지향 프로그램의 참조와 구조를 직관적으로 다루기 위해 네 가지 핵심 요소(합성 논리, 부정 변수, 별칭 계산법, 객체 구조 계산법)를 결합한 “객체 프로그램 계산법”을 제안한다. 이를 통해 연결 리스트 역전과 같은 전형적인 알고리즘을 형식적으로 검증한다.

상세 분석

이 논문은 객체 지향 소프트웨어 검증에서 가장 난제 중 하나인 “참조(포인터) 조작”을 프로그래머가 실제로 생각하는 방식에 가깝게 모델링하려는 시도를 담고 있다. 핵심은 네 가지 독립적인 기법을 하나의 통합 프레임워크로 묶은 점이다. 첫 번째인 **합성 논리(compositional logic)**는 Hoare‑Dijkstra 스타일의 전통적인 명제 논리를 확장해, 임의의 타입을 갖는 표현식에 대해 전후 상태를 기술한다. 이는 프로그램 명령 i와 표현식 e 사이에 “i ; e”라는 연산자를 도입해, i 실행 후 e의 값을 이전 상태에서 기술함으로써 역방향(뒤로) 추론을 자연스럽게 지원한다. 두 번째 **부정 변수(negative variables)**는 객체 지향에서 흔히 발생하는 “현재 객체(this)와 호출 대상 객체(x.f)” 사이의 관계를 명시적으로 표현한다. 부정 변수는 호출 전후의 객체 컨텍스트를 수식에 삽입함으로써, qualified call(x.f)와 같은 구문을 기존 논리 체계에 무리 없이 끼워 넣을 수 있게 한다. 세 번째 **별칭 계산법(alias calculus)**은 프로그램 내 두 표현식이 실행 중 동일 객체를 가리킬 가능성을 자동으로 판단한다. 별칭이 불가능함을 증명하면, 이후의 증명 단계에서 불필요한 별칭 가정을 배제할 수 있어 증명 복잡도가 크게 감소한다. 마지막 **객체 구조 계산법(calculus of object structures)**은 실행 시점에 형성되는 동적 구조(예: 연결 리스트, 트리 등)를 수학적 시퀀스로 추상화한다. 특히 “∫” 연산자를 도입해 현재 객체를 시작점으로 따라가며 얻어지는 객체들의 연속을 표현한다. 이를 통해 “old ∫ first.right = – ∫ first.right”와 같은 복합적인 구조 변화를 간결히 서술할 수 있다. 논문은 이 네 가지 도구를 실제 사례인 연결 리스트 역전 알고리즘에 적용한다. 루프 불변식 INV를 “previous ∫ right + next ∫ right” 형태로 정의하고, 각 명령(i1~i4)의 효과를 합성 논리와 부정 변수 규칙을 이용해 단계별로 전파한다. 별칭 계산법은 “previous”와 “next”가 언제든지 서로 별칭이 될 수 없음을 보장해, 순환 구조가 발생하지 않음을 전제조건으로 삼는다. 최종적으로 루프 종료 시점에 “next = Void”가 되면 INV가 “first = previous”와 동치가 되어 리스트가 완전히 뒤집힌다는 것을 증명한다. 이 과정에서 기존 검증 기법인 Separation Logic과 비교했을 때, 별도의 힙 모델링 없이도 객체 캡슐화와 계약(Pre/Postcondition)을 그대로 활용할 수 있다는 장점이 부각된다. 그러나 논문은 아직 상속, 다형성, 모듈성 검증 등에 대한 지원이 미비하고, 구현 도구가 부재하다는 한계를 인정한다. 전반적으로 이 접근법은 객체 지향 프로그래머가 직관적으로 이해할 수 있는 수학적 틀을 제공함으로써, 복잡한 동적 구조 검증을 보다 접근 가능하게 만든다.