전략별 루프 검증을 통한 비종료 자동 판정

초록

본 논문은 term rewrite system(TRS)의 비종료성을 자동으로 판정하기 위해, 다양한 평가 전략(왼쪽-가장 안쪽·가장 바깥쪽, 병렬‑안쪽·병렬‑바깥쪽, 금지 패턴 등) 하에서 루프가 실제로 존재하는지를 결정하는 절차를 제시한다. 기존 연구가 innermost·outermost·context‑sensitive 전략에만 초점을 맞춘 반면, 여기서는 보다 실용적인 프로그래밍 언어에서 쓰이는 복합 전략까지 포괄한다. 각 전략에 대한 형식적 정의와 루프 검증 알고리즘을 구축하고, 구현 및 실험을 통해 기존 방법보다 넓은 범위의 비종료 사례를 자동으로 발견함을 보인다.

상세 분석

논문은 먼저 term rewrite system(TRS)의 비종료성을 입증하기 위한 핵심 개념인 “루프(loop)”를 재정의한다. 전통적인 루프는 단순히 어떤 term이 여러 번 재작성되어 원래 형태로 돌아오는 순환을 의미하지만, 평가 전략이 적용되면 특정 재작성 경로가 차단될 수 있다. 따라서 저자들은 “전략 하의 루프”를 “전략에 따라 허용된 재작성 단계만을 사용해 동일한 term으로 되돌아오는 순환”으로 정의하고, 이를 판정하기 위한 형식적 메커니즘을 설계한다.

핵심 기법은 각 전략을 정규 언어 혹은 자동화된 전이 시스템으로 모델링한 뒤, 주어진 루프 후보가 해당 전이 시스템에서 실제로 실행 가능한지를 검사하는 것이다. 예를 들어, leftmost‑innermost 전략은 “가장 왼쪽에 위치한 innermost redex만을 선택”한다는 제약을 갖는다. 이를 위해 저자들은 루프의 각 단계에 대해 redex 위치와 깊이를 추적하는 라벨링 스킴을 도입하고, 라벨이 전략 규칙을 위반하는 경우를 빠르게 배제한다.

parallel‑innermost·parallel‑outermost 전략은 동시에 여러 redex를 선택할 수 있는 병렬성을 허용한다. 여기서는 “max‑parallel” 변형을 추가로 고려하여, 가능한 모든 병렬 선택 중 가장 큰 집합을 선택하도록 하는 규칙을 정의한다. 논문은 이러한 병렬 선택을 조합 논리식으로 표현하고, SAT‑solver 기반의 충족 검사로 전략 적합성을 검증한다.

또한, forbidden‑patterns 전략은 특정 패턴이 나타나는 위치에서의 재작성을 금지함으로써 context‑sensitive와 유사한 제한을 제공한다. 저자들은 패턴 매칭을 자동화하기 위해 트리 자동자를 활용하고, 루프 단계마다 금지 패턴이 침범되는지를 정형 검증한다.

각 전략별 판정 절차는 결정적이며, 복잡도 분석에서는 대부분 O(n·|R|) 수준(여기서 n은 루프 길이, |R|은 규칙 수)임을 보인다. 특히, 병렬 전략의 경우 라벨 조합 수가 급증할 수 있으나, 최대 병렬 선택을 미리 계산해 불필요한 조합을 제거함으로써 실용적인 실행 시간을 확보한다.

실험에서는 기존 도구인 AProVE·Jambox와 비교해, 제안된 절차가 새로운 전략(예: leftmost‑outermost, max‑parallel‑outermost) 하에서 비종료성을 성공적으로 발견한 사례가 다수 보고되었다. 이는 전략별 루프 검증이 실제 프로그래밍 언어의 평가 모델에 직접 적용 가능함을 시사한다.

결론적으로, 논문은 “전략에 종속적인 루프 검증”이라는 새로운 연구 방향을 제시하고, 형식적 정의와 효율적인 알고리즘을 통해 다양한 전략 하에서 비종료성을 자동으로 판정할 수 있음을 입증한다. 이는 자동화된 정적 분석 도구가 보다 현실적인 언어 모델을 다룰 수 있게 하는 중요한 전진이다.