예외 처리와 일반화된 경우 구분: 확장성을 통한 새로운 통합 프레임워크

초록

본 논문은 예외 발생과 처리 메커니즘을 ‘일반화된 경우 구분’으로 재해석하고, 이를 위한 연역 체계와 의미론적 모델을 제시한다. 핵심 아이디어는 광범위한 합집합 타입을 이용해 예외를 케이스 구분처럼 다루는 것이며, 이를 뒷받침하는 일반화된 확장성(generalized extensivity) 성질을 강조한다. 카테고리 이론적 배경을 최소화하면서도 다이어그램 논리와 연산적 구조를 통해 예외의 형식적 특성을 명확히 규정한다.

상세 분석

논문은 먼저 전통적인 예외 메커니즘을 ‘예외 발생(raise)’과 ‘예외 처리(handle)’라는 두 단계로 분리한다. 기존의 함수형 언어에서 예외는 종종 모나드나 효과 시스템을 통해 모델링되었지만, 저자는 이를 ‘일반화된 경우 구분(generalized case distinction)’이라는 관점으로 전환한다. 구체적으로, 각 예외는 고유한 라벨을 가진 새로운 타입 생성자로 간주되며, 이 라벨들은 광범위한 합집합(Extensive Sum) 타입 안에 삽입된다. 합집합 타입은 카테고리 이론에서 ‘extensive category’가 만족하는 성질을 갖는데, 여기서는 ‘일반화된 확장성(generalized extensivity)’이라는 형태로 재정의된다.

핵심 기술은 두 가지이다. 첫째, 연역 체계에서는 예외 발생 규칙과 예외 처리 규칙을 각각 별도의 추론 규칙으로 도입한다. 예외 발생은 현재 컨텍스트에 새로운 라벨을 삽입하는 연산이며, 예외 처리는 라벨에 대응하는 케이스를 선택해 원래 연산으로 되돌리는 역연산이다. 둘째, 의미론적 측면에서는 각 프로그램을 ‘예외를 포함한 연산’으로 보는 데노테이션을 제공한다. 이때 프로그램의 의미는 ‘예외 라벨 + 정상 반환값’이라는 쌍으로 표현되며, 합집합 타입을 통해 모든 가능한 라벨을 포괄한다.

논문은 이러한 구조가 기존의 모나드 기반 모델보다 몇 가지 장점을 제공한다고 주장한다. 첫째, 예외와 정상 흐름을 동일한 타입 체계 안에 통합함으로써 타입 검사가 단순해진다. 둘째, 일반화된 경우 구분은 다중 예외를 동시에 처리할 수 있는 자연스러운 메커니즘을 제공한다. 셋째, ‘확장성’ 성질을 이용하면 새로운 예외 라벨을 추가할 때 기존 정의를 재작성할 필요가 없으며, 이는 모듈성(modularity)과 확장성(scalability)을 크게 향상시킨다.

카테고리 이론적 배경은 최소화했지만, 저자는 다이어그램 논리(diagrammatic logic)를 활용해 추론 규칙과 의미론적 매핑을 시각적으로 표현한다. 특히, ‘케이스 구분’ 다이어그램은 전통적인 패턴 매칭과 동일한 구조를 가지면서도 예외 라벨을 추가적인 분기점으로 취급한다. 이를 통해 독자는 복잡한 수학적 정의 없이도 예외 처리 흐름을 직관적으로 이해할 수 있다.

마지막으로, 논문은 ‘일반화된 확장성’이 실제 프로그래밍 언어 설계에 어떻게 적용될 수 있는지를 탐구한다. 예를 들어, 합집합 타입을 지원하는 현대 언어(예: Rust, Kotlin)의 enum 또는 sealed class 구조에 라벨을 매핑하면, 기존 예외 처리 구문을 거의 그대로 유지하면서도 형식적 안전성을 확보할 수 있다. 이러한 접근은 언어 설계자에게 새로운 예외 메커니즘을 도입할 때 이론적 근거와 구현 가이드를 동시에 제공한다.