사용자 정의 효과의 표현력 비교

이 논문은 현대 함수형 언어에서 흔히 사용되는 세 가지 사용자 정의 효과 메커니즘—효과 핸들러(effect handlers), 모나드 반사(monadic reflection), 구분 제어(delimited control, 답 타입 변형 없음)—의 표현력을 체계적으로 비교한다. 이를 위해 저자들은 Levy가 제안한 Call‑by‑Push‑Value(CBPV) 계산 모델을 기반으로 다중 부가적 메타언어(mam)를 정의하고, 각각의 효과 메커니즘을 이 기본 계산계에 확장한다. **1. 기본 계산계(mam)** mam은 값(value)과 계산(computation)을 명확히 구분하는 구문을 갖는다. 값은 단위, 쌍, 변형(variant) 등 순수 데이터이며, 계산은 thunk, return, sequencing, 함수 추상화 등 효과를 포함할 수 있는 명령형 구문이다. 평가 규칙은 β‑축소와 하나의 컨텍스트 규칙으로 구성되며, 결정론적이다. 타입 시스템은 값 타입과 계산 타입을 구분하고, 효과 집합을 통해 순수(pure)와 비순수(effects) 연산을 구분한다. **2. 효과 핸들러 확장** 효과 핸들러는 사용자가 새로운 연산을 선언하고, 해당 연산에 대한 핸들러를 정의함으로써 재개 가능한 제어 흐름을 제공한다. 연산은 `op V` 형태로 호출되며, 핸들러는 `handle M with { op x k ↦ N }`와 같이 연산과 연속성을 캡처한다. 의미론적으로는 연산 호출 시 현재 핸들러 스택을 캡처하고, 핸들러가 반환값을 제공하거나 연속성을 재개한다. 저자는 이를 위해 새로운 평가 규칙과 스택 프레임을 도입하고, 타입 시스템에 효과 집합을 추가한다. **3. 모나드 반사 확장** Filinski의 모나드 반사는 `reflect`와 `reify` 연산을 통해 모나드 구조를 프로그램 내부에 삽입한다. `reflect M`은 모나드 값을 계산으로 변환하고, `reify x. N`은 계산을 모나드 값으로 포장한다. 이 메커니즘은 모나드 연산을 직접 구현하지 않고도 모나드의 법칙을 활용할 수 있게 한다. 논문은 다중 모나드(다중 효과) 상황을 다루기 위해 모나드 스택을 정의하고, 각 모나드에 대한 타입과 연산자를 명시한다. 의미론은 모나드 변환 규칙을 통해 정의되며, 집합론적 의미론을 구축해 정밀도와 완전성을 증명한다. **4. 구분 제어 확장** 구분 제어는 `reset`(구분자)와 `shift0`(캡처 연산)으로 구성된다. 답 타입 변형이 없으므로 `shift0`는 현재 연산을 캡처하고, 캡처된 연산을 함수 형태로 반환한다. 이 메커니즘은 효과 핸들러와 유사하게 연산을 캡처하지만, 연속성 재개 방식이 다소 제한적이다. 논문은 이를 위해 새로운 프레임과 컨텍스트 규칙을 도입하고, 타입 시스템에 구분 제어 전용 효과를 추가한다. **5. 메타이론적 결과** 각 계산계에 대해 안전성(진행·보존)과 종료성을 증명한다. 특히 모나드 반사에 대해서는 새로운 유한 집합 의미론을 제시하고, 의미론적 소리와 충분성을 증명한다. 효과 핸들러와 모나드 반사에 대해서는 의미론적 적합성(adequacy)도 입증한다. **6. 매크로 변환 및 표현력 비교** Felleisen의 매크로 표현 개념을 차용해, 한 계산계의 프로그램을 다른 계산계의 프로그램으로 구문적으로 변환한다. 총 여섯 개의 변환을 제시했으며, 그 중 일부는 기존 문헌에 알려진 변환을 형식화한 것이고, 몇몇은 새롭게 제안된 것이다. 변환의 타입 보존 여부를 분석한 결과는 다음과 같다: - 구분 제어 → 모나드 반사: 타입 보존 매크로 변환 가능 (증명 제공). - 구분 제어 → 효과 핸들러: 타입 보존 불가능 (증명 제공). - 모나드 반사 → 구분 제어: 타입 보존 가능 (구현 예시). - 모나드 반사 → 효과 핸들러: 타입 보존 불가능 (구체적 반례). - 효과 핸들러 → 구분 제어 / 모나드 반사: 모두 타입 보존 불가능 (의미론적 불변량 이용). 특히, 효과 핸들러가 요구하는 “핸들러 스택의 연속성”이라는 불변량은 구분 제어나 모나드 반사에서는 유지되지 않으며, 이를 통해 비표현성을 증명한다. **7. 구현 및 기계 검증** 저자들은 Abella 증명 도우미를 사용해 각 계산계의 진행·보존 정리와 매크로 변환의 시뮬레이션 관계를 기계적으로 검증하였다. 이는 논문의 형식적 신뢰성을 크게 높인다. **8. 설계적 함의** 결과는 언어 설계자가 어떤 효과 메커니즘을 선택할지에 대한 실질적인 가이드를 제공한다. 예를 들어, 순수 함수형 언어에서 타입 안전성을 유지하면서 효과를 다루고 싶다면 구분 제어와 모나드 반사는 상호 변환이 가능하므로 선택이 자유롭다. 그러나 효과 핸들러의 풍부한 재개 제어를 필요로 하는 경우, 이를 모나드 반사나 구분 제어로 변환하려면 타입 시스템을 크게 확장하거나 새로운 형식적 기법을 도입해야 한다. 또한, 인덕티브 타입, 다형성, 전역 메모리와 같은 추가 기능이 도입될 경우 현재의 비표현성 결과가 달라질 수 있음을 강조한다. **9. 결론** 논문은 사용자 정의 효과의 세 주요 구현 패러다임을 동일한 CBPV 기반 프레임워크 위에 놓고, 형식적 의미론과 매크로 변환을 통해 그 표현력을 정량적으로 비교하였다. 무타입 수준에서는 상호 매크로 표현이 가능하지만, 타입 시스템을 고려하면 효과 핸들러는 다른 두 메커니즘으로는 타입 보존 매크로 변환이 불가능함을 증명했다. 이 연구는 효과 시스템 이론에 중요한 기준을 제시하고, 실용 언어 설계 시 효과 메커니즘 선택에 대한 실질적인 지침을 제공한다.