상태와 예외의 이중 효과: 대칭과 범주론적 해석

초록

이 논문은 상태와 예외라는 두 주요 계산 효과를 범주론적 관점에서 분석한다. 제품과 코프로덕트 사이의 전통적인 범주론적 이중성에 기반해, 상태의 lookup·update 연산과 예외의 throw·catch 연산이 서로 대칭임을 보인다. 이를 위해 단조적 방정식 논리에서 시작해 효과를 다루기 위한 논리적 구조를 단계적으로 확장한다. 결과적으로 예외 처리의 비대수적 어려움을 우회하면서 두 효과를 통합적으로 이해할 수 있는 새로운 프레임워크를 제시한다.

상세 요약

논문은 먼저 모노이달 방정식 논리(monidal equational logic)를 기반으로, 전통적인 함수형 언어에서 상태와 예외가 어떻게 비대수적으로 취급되는지를 지적한다. 상태는 일반적으로 변수의 전역적인 저장소를 모델링하며, lookup과 update이라는 두 기본 연산을 통해 접근한다. 이때 상태 공간는 카테고리 이론에서 말하는 ‘곱(product)’ 구조와 일치한다는 점을 강조한다. 반면 예외는 프로그램 흐름을 비정상적으로 전환시키는 메커니즘으로, throw와 catch라는 연산으로 표현된다. 예외 처리 메커니즘은 ‘코프로덕트(coproduct)’ 구조와 자연스럽게 대응한다는 것이 핵심 통찰이다.

저자는 이러한 대응 관계를 정형화하기 위해, 먼저 제품과 코프로덕트 사이의 이중성을 명시적으로 활용한다. 제품은 객체들의 동시 존재를 나타내는 반면, 코프로덕트는 선택적 존재를 나타낸다. 상태의 lookup은 현재 저장소에서 값을 추출하는 연산으로, 이는 곱의 투사(projection)와 동형이다. update는 새로운 값을 저장소에 삽입하는 연산으로, 곱의 삽입(injection)과 유사하게 해석된다. 예외의 throw는 현재 연산 흐름을 중단하고 예외 객체를 코프로덕트의 한 쪽으로 전송하는데, 이는 코프로덕트의 삽입에 해당한다. catch는 코프로덕트의 선택적 분기(branch)를 처리하여 정상 흐름으로 복귀시키는 연산으로, 코프로덕트의 케이스 분석(case analysis)과 동일시된다.

이러한 대응을 바탕으로 저자는 ‘효과 사전(Effect Signature)’이라는 형식적 구조를 정의한다. 상태와 예외 각각에 대해 연산자와 그들의 연산 규칙을 명시하고, 이 규칙들을 범주론적 다이어그램으로 표현한다. 특히, 상태와 예외를 동시에 포함하는 시스템에서는 두 효과가 서로 교환 가능한(commuting) 형태로 결합될 수 있음을 보인다. 이는 기존의 모나드(monad) 기반 접근법이 예외를 비대수적으로 다루어야 하는 어려움을 해결한다는 점에서 의미가 크다.

마지막으로, 저자는 이론적 결과를 간단한 언어 설계 예시와 함께 검증한다. 예시에서는 상태 변수와 예외 핸들러를 동시에 사용하면서도, 각각의 연산이 서로의 대칭 구조를 유지함을 확인한다. 이를 통해 상태와 예외가 실제 프로그래밍 언어 설계에서 어떻게 통합될 수 있는지, 그리고 이러한 통합이 프로그램의 정형 검증에 어떤 이점을 제공하는지를 실증한다.