재작성 2 이론의 일반적 일관성 정리와 응용

초록

이 논문은 종료·완전합성(terminating & confluent)과 비완전합성인 두 종류의 재작성 2-이론에 대해 일반적인 일관성 정리를 제시한다. 첫 번째 정리는 종료·완전합성 2-이론에 대해 명시적인 범주적·대수적 프레젠테이션을 제공하고, 이를 이용해 고차 스톱슨 군과 히그먼‑스톱슨 군의 체계적 프레젠테이션을 구성한다. 두 번째 정리는 완전합성이나 종료성을 요구하지 않으며, 이를 통해 반복 모노이달 범주의 일관성을 새로운 방식으로 증명한다. 결과적으로 고차 연산자를 포함한 스태시프/맥레인 일관성 공리의 일반화와, 기존 이론에서 다루기 어려웠던 비합성 구조에 대한 범주론적 해석을 제공한다.

상세 분석

본 연구는 Lawvere 2-이론을 재작성(term rewriting) 관점에서 접근함으로써, 범주론적 구조의 일관성(coherence)을 재작성 시스템의 성질과 직접 연결한다. 먼저, ‘종료(terminating)’와 ‘완전합성(confluent)’이라는 두 핵심 재작성 속성을 만족하는 2-이론에 대해 일반적인 일관성 정리를 증명한다. 여기서 중요한 점은 2-셀(2-morphism)의 등식이 모든 1-셀(1-morphism) 사이의 재작성 경로를 통해 유일하게 정규 형태로 수렴한다는 사실이다. 이 정리는 기존의 Stasheff‑Mac Lane 공리(이항 연산에 대한 일관성)를 고차 연산자(다중 입력을 갖는 연산)로 확장하는 데 필수적이다. 고차 연산자는 전통적인 이항 구조에서는 나타나지 않는 복합적인 교환·결합 패턴을 만들어내며, 이러한 패턴을 정확히 포착하기 위해 새로운 형태의 교차(critical pair) 분석이 필요하다. 논문은 이러한 교차쌍을 체계적으로 분류하고, 각 교차쌍이 사라지는(즉, 일관성을 보장하는) 충분조건을 제시한다.

두 번째 정리는 종료성이나 완전합성을 전제하지 않는다. 여기서는 2-이론이 ‘전역적으로 일관된’ 구조를 갖는지를 판단하기 위해 ‘가상 사전순(virtual well‑ordering)’과 ‘전이 가능성(weak confluence)’ 개념을 도입한다. 특히, 반복 모노이달 범주(iterated monoidal categories)는 다중 레벨의 텐서곱과 연관성 변환을 동시에 다루어야 하므로, 전통적인 Knuth‑Bendix 완전합성 절차가 적용되지 않는다. 저자들은 이러한 비합성 상황에서도 일관성을 확보할 수 있는 ‘정규화 사상(normalization functor)’을 구성하고, 이를 통해 모든 2‑셀이 동일한 ‘표준 형태’로 사상될 수 있음을 보인다.

이러한 두 정리를 실제 수학적 객체에 적용한 사례가 논문의 핵심 기여이다. 첫 번째 정리를 이용해 고차 스톱슨 군과 히그먼‑스톱슨 군의 프레젠테이션을 도출한다. 여기서 고차 스톱슨 군은 n‑ary 연산을 갖는 트리 구조를 기반으로 하며, 기존의 이항 스톱슨 군이 갖는 ‘분할‑재결합’ 관계를 n‑ary 버전으로 일반화한다. 논문은 이 과정에서 발생하는 새로운 ‘교환 사슬(exchange chain)’과 ‘결합 사슬(association chain)’을 명시적으로 기술하고, 이를 통해 군의 생성자와 관계식을 완전하게 기술한다.

두 번째 정리는 반복 모노이달 범주의 일관성을 새롭게 증명한다. 기존 증명은 복잡한 고차 동형사상과 고차 펜로즈 사각형을 일일이 검증해야 했지만, 여기서는 2‑이론의 비합성성을 허용하는 일반 정리를 적용함으로써, ‘모든 가능한 재작성 경로가 동등하게 사상된다’는 사실을 한 번에 확보한다. 이는 반복 루프 공간의 범주론적 모델링에 있어, 구조적 복잡성을 크게 낮추는 효과를 가진다.

전반적으로 이 논문은 재작성 이론과 고차 범주론을 연결하는 새로운 프레임워크를 제공한다. 특히, 종료·완전합성 조건을 완화하면서도 일관성을 보장하는 방법론은, 복잡한 다중 연산을 다루는 현대 수학·컴퓨터 과학 분야(예: 고차 연산자 기반 프로그래밍 언어, 고차 동형론, 고차 대수 구조)에서 광범위하게 활용될 가능성을 시사한다.