카르테시안 효과 범주와 프레이드 범주

논문은 프로그래밍 언어의 의미론에서 전통적으로 사용되는 카테고리적 구조가 함수 인자의 순서를 무시한다는 한계를 지적한다. 부수 효과(예: 상태 변이, 입출력, 비정상 종료 등)가 존재하면 인자 평가 순서가 프로그램의 동작에 결정적인 영향을 미치므로, 순서 정보를 명시적으로 다룰 수 있는 새로운 범주론적 틀을 필요로 한다. 이를 위해 저자는 “효과 범주(effect category)”라는 개념을 도입한다. 효과 범주는 다음과 같이 정의된다. 1) 기본 카테고리 K와 동일한 객체를 갖는 넓은 전제 서브카테고리 C가 존재한다. C의 morphism을 “순수(pure)”라 부른다. 2) K의 두 평행 morphism f와 v(순수) 사이에 일관성 관계 ⊳를 정의한다. 일관성은 순수 반사성(모든 순수 morphism은 자신과 일관)과 합성에 대한 호환성(두 일관된 쌍을 합성하면 결과도 일관)이라는 두 공리를 만족한다. 3) 효과(eff)라는 측정값을 도입한다. 효과는 순수 morphism을 제외하고는 일반적으로 “E(f) = hi_Y ∘ f” 로 정의되며, 동일 효과 관계 ≈는 같은 효과를 갖는 morphism을 동등시킨다. 4) 보완성(complementarity) 공리를 추가한다. 이는 “같은 효과를 가지면서 일관한 두 morphism은 반드시 동일”임을 보장한다. 효과 범주의 이러한 구조는 부수 효과를 가진 프로그램을 수학적으로 모델링하는 데 충분히 강력하다. 예시로 부분 함수와 상태 변이를 다루는 경우가 제시되며, 일관성 관계가 기존의 “동일 결과” 개념과는 다르게 “up‑to‑effects” 관점을 제공함을 보여준다. 다음으로 카르테시안 효과 범주(Cartesian effect category)를 정의한다. 여기서는 서브카테고리 C가 유한 곱을 갖는 카르테시안 카테고리임을 가정한다. 일반적인 곱 ×는 순수 morphism에만 적용되지만, 효과가 있는 morphism에도 적용할 수 있는 “연속 곱(sequential product)”을 도입한다. 연속 곱은 두 반순수 곱(v ⋉ f와 f ⋊ v)으로 구성된다. - 왼쪽 반순수 곱 v ⋉ f는 첫 번째 인자를 순수 morphism v로, 두 번째 인자를 일반 효과 f로 평가한다. 이는 q₁∘(v⋉f) ⊳ v∘p₁ 및 q₂∘(v⋉f)=f∘p₂ 라는 다이어그램으로 특성화된다. - 오른쪽 반순수 곱 f ⋊ v는 대칭적으로 정의된다. 두 반순수 곱을 결합해 f₁ ⋉ f₂ = (id₁ ⋉ f₂) ∘ (f₁ ⋊ id₂) 로 정의함으로써 “먼저 f₁을 실행하고 그 다음 f₂를 실행한다”는 순차성을 정확히 포착한다. 연속 곱은 전통적인 곱의 보편적 성질을 ‘동등성 + 일관성’ 형태로 일반화한 보편적 성질을 갖는다. 즉, 연속 곱은 순수 곱과 동일한 투사성을 유지하면서도 효과가 있는 부분에 대해 일관성을 보장한다. 연속 곱을 통해 카르테시안 효과 범주는 프레이드‑카테고리(Freyd‑category)의 정의를 만족한다. 프레이드‑카테고리는 넓은 전제 서브카테고리 C가 대칭 모노이달(카르테시안)이고, 전체 카테고리 K가 대칭 프리모노이달 구조를 갖는다는 구조적 정의를 갖는다. 연속 곱이 제공하는 프리모노이달 텐서는 K의 전제 구조가 되므로, 카르테시안 효과 범주는 자동으로 프레이드‑카테고리가 된다. 논문은 또한 강 모나드(strong monad)와의 관계를 분석한다. 강 모나드가 주는 ‘strength’는 프레이드‑카테고리의 전제 구조를 생성하지만, 이 strength가 단위(identity)와 일관성을 만족할 때만이 카르테시안 효과 범주의 약한 형태와 동등함을 보인다. 즉, 강 모나드가 제공하는 효과가 순수 연산과 정확히 일치하면 연속 곱이 정의 가능하고, 따라서 프레이드‑카테고리와 동형이 된다. 마지막으로 Haskell Arrow와의 비교를 제시한다. Arrow는 순차적 계산을 표현하기 위한 인터페이스이며, 연속 곱은 Arrow의 ‘first’와 ‘>>>’ 연산을 카테고리 수준에서 일반화한 것으로 볼 수 있다. 논문은 이러한 관계를 통해 연속 곱이 기존 프로그래밍 언어 이론에 자연스럽게 녹아들 수 있음을 시사한다. 전체적으로, 논문은 (1) 일관성 관계와 보완성 공리를 통해 효과가 있는 계산의 의미론을 정형화하고, (2) 연속 곱이라는 새로운 이항 연산을 도입해 순서 정보를 카테고리 수준에서 표현하며, (3) 이를 통해 카르테시안 효과 범주가 프레이드‑카테고리, 강 모나드, Arrow와 모두 연결되는 통합적 프레임워크임을 증명한다. 이러한 결과는 부수 효과를 다루는 언어 설계와 의미론 연구에 강력한 도구를 제공한다.