계층화된 영역과 프로그램 종료 보장

본 논문은 타입·효과 시스템을 이용해 부작용을 갖는 프로그램의 정적 분석을 수행하고, 특히 “계층화된 영역(stratified regions)”이라는 개념을 도입해 타입이 지정된 프로그램이 반드시 종료함을 보인다. 먼저 저자는 동적으로 생성되는 값(예: ML의 ref, π-계산식의 ν 연산자 등)을 추상화한 ‘영역’이라는 개념을 정의한다. 영역은 정적인 타입 컨텍스트 R에 포함되며, Reg r A 형태로 “영역 r에 A형 값이 저장될 수 있다”는 정보를 제공한다. 프로그램은 λ-계산식에 get, set 연산자를 추가해 영역에서 값을 읽고 쓸 수 있게 확장된다. 이때 set 연산자는 기존 값을 덮어쓰지 않고 추가하는 방식으로 정의되어, 하나의 영역에 여러 값이 동시에 존재할 수 있다. 이러한 설계는 참조, 채널, 신호 등 다양한 효과 메커니즘을 동일한 형식으로 모델링할 수 있게 한다. 다음으로, 저자는 효과 집합 e를 타입에 부착하는 형태의 타입·효과 시스템을 제시한다. A e→B는 A형 인자를 받아 B형 결과를 반환하고, 동시에 e에 포함된 영역에 부작용을 일으킬 수 있음을 의미한다. 기본 규칙은 변수, 람다, 적용, get, set 등에 대해 정의되며, 서브타이핑 규칙을 통해 효과 집합을 확장하거나 축소할 수 있다. 이 시스템은 비계층화된 형태로, 같은 영역에 값을 쓰고 다시 읽는 순환이 허용된다. 실제로 고정점 연산자 fix r f.M을 정의하면, 영역 r에 저장된 함수가 자기 자신을 읽는 형태의 무한 재귀를 구현할 수 있다. 따라서 비계층화된 시스템만으로는 프로그램 종료를 보장할 수 없으며, 이는 논문의 동기 부여가 된다. 이를 해결하기 위해 저자는 영역에 전역적인 순서를 부여하고, “큰 영역에 쓰는 값은 반드시 더 작은 영역에만 부작용을 일으킬 수 있다”는 제약을 추가한다. 즉, 효과 집합 e는 현재 영역보다 작은 영역만을 포함하도록 강제한다. 이 제약이 바로 계층화(stratification)이다. 계층화된 시스템에서는 고정점 연산자조차도 자기 자신을 직접 참조할 수 없게 되므로, 무한 루프를 만들 수 없게 된다. 저자는 이 계층화된 타입·효과 시스템이 프로그램의 정규화(termination)를 보장함을 증명한다. 증명은 Girard의 reducibility candidates 기법을 차용한다. 각 타입·효과 쌍 (A, e)에 대해 후보 집합 C(A, e)를 정의하고, 이 집합이 다음 성질을 만족함을 보인다: (1) 정규 형태의 값은 언제나 후보 집합에 속한다. (2) 후보 집합은 평가 문맥 E에 대해 닫혀 있다(즉, E