모노이달 범주에서의 일반화된 트레이스

초록

이 논문은 균형 잡힌 모노이달 범주와 근사성질을 가진 국소 볼록 공간에서 핵 연산자의 트레이스를 동시에 포괄하는 새로운 트레이스와 트레이스 쌍을 구축한다. 적절한 조건을 만족하는 엔도몰피즘에 대해 공통적인 정의를 제시하고, 기존의 이중가능 객체 트레이스와 핵 연산자 트레이스가 특수 경우임을 보인다.

상세 분석

논문은 먼저 모노이달 범주 𝒞 에 대한 기본 개념을 정리하고, 특히 균형(balanced) 구조와 피벗(pivotal) 구조가 존재할 때 이중가능(dualizable) 객체에 대해 전통적인 트레이스가 어떻게 정의되는지를 복습한다. 전통적인 정의는 평가(evaluation)와 공평(evaluation) 사상 ev_X: X*⊗X→I, coev_X: I→X⊗X* 를 이용해 tr(f)=ev_X∘(id_{X*}⊗f)∘coev_X 와 같이 구성한다. 이때 트레이스는 순환성(cyclicity)과 다이내추럴리티(dinaturality)를 만족한다.

다음 단계에서는 “트레이스 가능한(endomorphisms satisfying suitable conditions)”이라는 새로운 클래스 𝒯(𝒞) 을 정의한다. 핵심 아이디어는 평가·공평 사상이 존재하지 않더라도, 특정한 코엔드(coend) 혹은 엔드(end) 구조를 통해 X⊗Y 와 Y⊗X 사이의 자연스러운 전이 γ_{X,Y}: X⊗Y→Y⊗X 를 구성하고, 이를 이용해 f: A→A 에 대해 tr(f)=I→A⊗A*→A*⊗A→I 와 같은 형태의 “가상 평가·공평”을 만들 수 있다는 점이다. 여기서 사용되는 조건은 (1) A 가 “트레이스 클래스”에 속하고, (2) A 와 A* 사이에 적절한 강제(coherence) 사상이 존재함을 의미한다.

특히 저자는 이 구조를 두 단계로 확장한다. 첫 번째는 단일 트레이스 tr: 𝒯(𝒞)→End(I) 를 정의하는 것이고, 두 번째는 두 트레이스 가능한 엔도몰피즘 f: A→A, g: B→B 에 대해 쌍을 이루는 트레이스 ⟨f,g⟩: End(I) 을 정의하는 “트레이스 페어링”이다. 페어링은 tr_{A⊗B}(f⊗g) 와 동일하게 계산되며, 이는 텐서곱에 대한 트레이스의 멀티라인성 및 교환법칙을 자연스럽게 확장한다.

논문은 이 일반화된 트레이스가 기존 두 사례를 어떻게 포함하는지를 상세히 증명한다. 첫 번째 사례는 균형 잡힌 모노이달 범주에서 이중가능 객체에 대한 전통적 트레이스이며, 여기서는 coev_X, ev_X 가 실제 존재하므로 정의가 바로 일치한다. 두 번째 사례는 국소 볼록 공간(LCS) 𝓥 에서 핵 연산자 T: E→E 에 대한 트레이스로, 근사성질(approximation property)을 만족하는 경우에만 핵 연산자를 “트레이스 클래스”에 포함시킬 수 있다. 이때 평가·공평 사상은 토폴로지적 이중성(dual space)과 약한 토폴로지에서의 완비성에 의해 간접적으로 제공된다.

또한 저자는 트레이스와 페어링이 모노이달 함자(F: 𝒞→𝒟)와의 호환성을 보인다. F가 균형 구조와 피벗 구조를 보존하면, F(tr(f))=tr(F(f)) 와 F(⟨f,g⟩)=⟨F(f),F(g)⟩ 가 성립한다. 이는 범주론적 관점에서 트레이스가 “불변량”임을 의미한다. 마지막으로, 트레이스가 합성, 텐서곱, 그리고 동형 사상에 대해 만족하는 일련의 공리(선형성, 순환성, 다이내추럴리티)를 제시하고, 이러한 공리가 기존 사례와 일치함을 검증한다.