효과 범주에서의 순차적 곱

초록

이 논문은 효과를 가진 프로그래밍 언어에서 다중 인자를 다루기 위한 새로운 범주론적 틀인 ‘효과 범주’를 제시한다. 순수 함수와 효과 함수, 그리고 두 종류의 동등식 구분을 통해 전통적 곱을 일반화한 ‘순차적 곱’을 정의하고, 이를 이용해 기존 모나드·애로우·Freyd 범주와의 관계를 명확히 하며 다양한 효과 언어의 성질을 체계적으로 유도한다.

상세 분석

논문은 먼저 효과가 존재하는 프로그래밍 언어를 수학적으로 모델링하기 위해 ‘효과 범주(Effect Category)’라는 구조를 도입한다. 기존의 모나드나 애로우와 달리, 효과 범주는 두 종류의 사상, 즉 순수(pure) 사상과 효과(effectful) 사상을 명시적으로 구분한다. 순수 사상은 부작용이 없으며 전통적인 카테고리 이론의 동형성을 그대로 따르는 반면, 효과 사상은 실행 순서와 상태 변화를 고려해야 하므로 일반적인 동등식이 적용되지 않는다. 이를 해결하기 위해 저자는 동등식을 두 단계로 나눈다. 첫 번째는 ‘강한 동등식(strong equality)’으로, 순수 사상 사이에만 적용되는 전통적 동등식이며, 두 번째는 ‘약한 동등식(weak equality)’으로, 효과 사상 사이에서도 허용되는 동등식으로서 관측 가능한 결과만을 동일하게 본다. 이러한 이중 동등식 체계는 효과가 섞인 연산을 합성할 때 발생하는 미묘한 차이를 정확히 포착한다.

핵심 기여는 이 구조 위에 정의된 ‘순차적 곱(sequential product)’이다. 전통적 카테고리 곱은 두 사상의 독립성을 전제로 하지만, 효과 사상에서는 실행 순서가 결과에 영향을 미친다. 따라서 순차적 곱은 첫 번째 인자를 평가한 뒤 그 결과를 두 번째 인자의 평가에 전달하는 ‘순차적 평가’ 메커니즘을 내재한다. 형식적으로는 (f ⊗ g) = (f ; (id × g))와 같은 형태로 정의되며, 여기서 ‘;’는 효과 사상의 순차적 합성을, ‘×’는 순수 사상의 일반적 곱을 나타낸다. 이 정의는 모나드의 ‘bind’ 연산과 유사하지만, 범주론적 관점에서 곱 구조와 결합법칙을 동시에 만족하도록 설계되었다.

논문은 순차적 곱이 다음과 같은 중요한 성질을 갖는 것을 증명한다. 첫째, 강한 동등식 하에서의 결합법칙과 교환법칙이 부분적으로 유지된다. 둘째, 약한 동등식 하에서는 ‘효과 전파 법칙(effect propagation)’이 성립하여, 두 효과 사상의 순서가 바뀌면 관측 가능한 결과가 변할 수 있음을 명시한다. 셋째, 기존의 Freyd 범주에서 정의된 ‘강제(Force)’ 연산과 ‘강제된 곱(forced product)’이 순차적 곱의 특수 경우임을 보인다. 이를 통해 모나드, 애로우, Freyd 범주가 모두 효과 범주 내에서 서로 다른 제한조건을 가진 서브케이스임을 통합적으로 설명한다.

실제 프로그래밍 언어 예시로는 명령형 언어의 변수 할당, 예외 처리, I/O 동작 등을 들며, 각각을 효과 사상으로 모델링하고 순차적 곱을 적용해 복합 연산을 구성한다. 특히 예외와 상태 변화를 동시에 다루는 경우, 순차적 곱을 이용하면 ‘예외가 발생하면 이후 상태 변화를 무시한다’는 규칙을 자연스럽게 표현할 수 있다. 이러한 예시는 기존 모나드 기반 접근법이 복잡한 변환자를 필요로 하는 반면, 효과 범주와 순차적 곱은 구조적으로 간결한 정의만으로 동일한 의미론을 제공함을 보여준다.

마지막으로 저자는 순차적 곱이 효과 언어의 타입 시스템 설계에 미치는 영향을 논의한다. 타입 이론에 순차적 곱을 도입하면, 함수 타입에 ‘순수/효과’ 어노테이션을 명시적으로 포함시킬 수 있어, 컴파일러가 실행 순서를 정적 분석하고 최적화할 수 있는 기반을 제공한다. 또한, 효과 범주 자체가 ‘효과 사상의 동등성 판단 기준’을 제공하므로, 프로그램 리팩터링이나 검증 도구가 보다 정밀한 동등성 검사를 수행할 수 있다. 전체적으로 이 논문은 효과를 가진 언어의 의미론을 범주론적으로 통합하고, 순차적 곱이라는 새로운 연산자를 통해 복합 효과 조합을 체계적으로 다루는 방법을 제시한다.