정규형 없이도 일관성 확보

초록

이 논문은 전통적으로 종료·수렴성을 전제로 했던 범주론적 일관성 증명을, 그 전제가 없어도 가능한 새로운 프레임워크로 확장한다. 2차 동치관계를 갖는 전산 시스템 위에 일관성 문제를 재정의하고, 결정 가능성 및 “모든 도표가 교환한다”는 충분조건을 제시한다. 특히, 수렴하지 않는 반복 모노이달 범주에 적용해 기존 증명의 복잡성을 크게 낮춘다.

상세 분석

논문은 먼저 기존의 “코히어런스 정리”가 왜 종료와 수렴이라는 두 가지 강력한 가정을 필요로 했는지를 체계적으로 분석한다. 전통적인 방법은 항 재작성 시스템(term rewriting system, TRS)의 정규형(normal form)이 유일함을 보장함으로써, 두 경로가 같은 결과에 도달한다는 것을 증명한다. 그러나 이 접근법은 실제 수학적 구조, 특히 반복 모노이달 범주와 같이 고차원적인 교환 법칙을 가진 경우에 적용하기 어렵다. 반복 모노이달 범주는 이터레이션된 루프 공간을 모델링하는데, 그 자체는 교환 법칙이 복잡하게 얽혀 있어 TRS가 수렴하지 않는다.

이에 저자들은 “2차 동치(congruence) 위에 장착된 재작성 시스템”이라는 새로운 수학적 장치를 도입한다. 구체적으로, 기본 재작성 규칙을 그대로 유지하면서, 두 재작성 경로 사이에 존재하는 고차원 동치관계를 별도의 동치 관계(≡)로 선언한다. 이 동치관계는 2-셀(2‑cell) 혹은 변형 사상으로 해석될 수 있으며, 전통적인 수렴성 검증을 우회한다. 핵심 아이디어는 “모든 도표가 교환한다”는 명제를, “임의의 두 경로가 ≡‑동치인 정규형으로 수렴한다”는 형태로 전환하는 것이 아니라, “임의의 두 경로가 ≡‑동치 관계에 의해 직접 연결될 수 있다”는 조건을 찾는 것이다.

논문은 두 가지 주요 질문에 답한다. 첫째, 주어진 구조에서 도표의 교환 여부를 결정할 수 있는 알고리즘이 존재하는가? 이를 위해 저자는 “정규형 탐색 그래프”와 “동치 전파 규칙”을 결합한 결정 절차를 설계한다. 이 절차는 재작성 규칙이 비종료이더라도, 동치 전파가 충분히 강하면 유한 탐색으로 교환 여부를 판정한다. 둘째, 모든 도표가 자동으로 교환하도록 보장하는 충분조건은 무엇인가? 여기서는 “2‑차 동치가 교환법칙을 완전하게 포괄한다”는 조건을 제시하고, 이를 만족하는 경우에 한해 전역 코히어런스를 얻는다.

특히, 반복 모노이달 범주에 이 프레임워크를 적용함으로써 기존 증명에서 필요했던 복잡한 사슬식 변환과 다단계 동치 전파를 단순화한다. 저자는 기존의 “다중 교환 사슬”을 2‑차 동치 규칙 하나로 압축하고, 그 결과로 얻은 새로운 증명은 구조적 직관성을 크게 향상시킨다. 또한, 이 접근법은 다른 비수렴적 범주 구조, 예를 들어 고차원 교환법칙을 갖는 이중 모노이달이나 교환법칙이 부분적으로만 정의된 구조에도 그대로 적용 가능함을 시사한다.

결론적으로, 논문은 코히어런스 문제를 “정규형의 존재 여부”가 아니라 “동치 관계의 전파 가능성”으로 재구성함으로써, 전통적인 종료·수렴 가정에 얽매이지 않는 보다 일반적인 이론적 토대를 제공한다. 이는 범주론, 고차원 대수, 그리고 형식적 언어 이론 등에서 복잡한 교환 구조를 다루는 연구자들에게 새로운 도구와 시각을 제공한다.