이중범주 그림자와 흔적 이론

초록

이 논문은 그림자 구조를 가진 이중범주에서 비가환적인 흔적을 정의하고, 그 함수성 및 2-함수성을 증명한다. 이를 통해 고전적인 대칭모노이달 흔적이 적용되지 않는 상황, 예를 들어 Hattori‑Stallings 흔적과 같은 경우에도 고정점 정리와 같은 응용이 가능하도록 한다. 문자열 다이어그램을 원통형으로 확장한 기법을 도입해 직관적이면서도 형식적인 증명을 제공한다.

상세 분석

논문은 먼저 기존의 대칭모노이달 범주에서 정의되는 흔적을 복습하고, 그 한계가 비가환 링 위의 모듈과 같은 비가환 상황에서 발생함을 지적한다. 이를 극복하기 위해 저자들은 “그림자(shadow)”라는 추가 구조를 이중범주에 부여한다. 그림자는 각 1-셀 f: A→B에 대해 B‑A‑쌍의 2-셀을 반환하는 함자이며, 순환성, 연관성, 단위성이라는 세 가지 공리(axiom)를 만족한다. 이러한 공리를 통해 f와 그 역전치(f*) 사이에 자연스러운 쌍대 관계가 형성되고, 이는 전통적인 트레이스의 핵심인 “닫힌 고리”를 이중범주 수준에서 재현한다.

핵심 정의는 “그림자 트레이스”이다. 주어진 1-셀 f: A→A와 그에 대응하는 2-셀 α: f⊗X ⇒ X⊗f에 대해, 그림자 구조를 이용해 α를 B‑A‑쌍으로 변환하고, 다시 단위와 결합법칙을 적용해 스칼라 객체(보통 단위 1-셀 I)의 끝에 사상을 얻는다. 이 사상이 바로 트레이스이며, 비가환 상황에서도 잘 정의된다.

함수성은 두 단계로 증명된다. 첫째, 그림자 트레이스는 이중범주의 1-셀 사이의 2-셀(즉, 변환)와 호환된다. 즉, φ: f⇒g 라는 2-셀가 주어지면, Tr(φ∘α)=Tr(α)∘Tr(φ) 형태의 교환법칙이 성립한다. 둘째, 2-함수성은 이중범주 사이의 강한 2-함수(F, η, μ)가 그림자 구조를 보존할 때, 트레이스가 그 2-함수에 대해 자연스러운 변환이 됨을 보인다. 이는 고정점 이론에서 “함수 사이의 트레이스가 동일하게 유지된다”는 핵심 요구를 충족한다.

증명 과정에서 저자들은 원통형 문자열 다이어그램을 도입한다. 전통적인 평면 다이어그램은 비가환성 때문에 순환 구조를 시각화하기 어려운데, 원통형 다이어그램은 입출력 구멍을 원통의 양 끝에 배치해 “시간” 방향을 원형으로 연결함으로써, 트레이스 연산을 자연스럽게 나타낸다. 부록에서는 이러한 다이어그램이 이중범주의 합성 법칙과 일치함을 엄밀히 검증한다.

결과적으로, 그림자 트레이스는 Hattori‑Stallings 트레이스와 같은 기존 비가환 트레이스를 일반화하고, 동시에 고전적인 Lefschetz 고정점 정리의 범주론적 증명을 비가환 상황으로 확장할 수 있는 강력한 도구를 제공한다.