정보 흐름의 범주론적 산술

이 논문은 정보 흐름을 범주론적 관점에서 재해석하고, 통신 시스템을 범주의 사상으로 모델링하는 새로운 프레임워크를 제시한다. 서론에서는 기존 정보 이론이 엔트로피, 상호정보량, 채널 용량 등 다양한 수치를 사용해 통신 과정을 정량화해 왔으며, 양자 정보 이론까지 확장되었음을 언급한다. 그러나 이러한 수치들은 각각 특정 수학적 구조(확률 변수, 집합 분할 등)에 의존해 왔고, 통합적인 이론적 기반이 부족하다는 점을 지적한다. **2. 통신 시스템을 사상으로** 통신 시스템은 출발점 A와 도착점 B 사이의 메시지 전달 메커니즘으로 정의하고, 이를 범주 C의 사상 f: A→B 로 표현한다. 사상의 합성은 두 시스템을 연속적으로 연결하는 과정이며, 항등 사상은 정보 손실이 전혀 없는 완전 전달을 의미한다. 대부분의 경우 객체는 집합(또는 추가 구조를 가진 집합)이며, 사상은 해당 구조를 보존하는 함수이다. **3. 사상의 결합 연산** 두 가지 곱 연산을 도입한다. - **외부 곱 (f ˆ× g)**: 서로 독립적인 두 입력을 각각 다른 시스템에 전달하는 상황을 모델링한다. 예를 들어 FinSet에서 (s₁,s₂)↦(f(s₁),g(s₂)) 로 정의된다. - **내부 곱 (f ×ₐ g)**: 동일한 입력을 두 시스템에 동시에 전달하는 상황을 모델링한다. FinSet에서는 s↦(f(s),g(s)) 로 정의된다. 이 두 연산은 범주 C가 적절한 곱을 가질 때 존재하며, 외부 곱은 항상 정의될 수 있는 반면 내부 곱은 동일 도메인을 요구한다. **4. 정보 함수에 대한 공리** 정보 함수를 I: Mor(C)→ℝ₊ 로 두고, 다음 다섯 가지 공리를 제시한다. 1. **불변성 (Invariance)**: 동형 사상은 동일한 정보량을 가진다. 즉, f≅g ⇒ I(f)=I(g). 2. **외부 가법성 (External Additivity)**: 외부 곱이 존재하면 I(f ˆ× g)=I(f)+I(g). 이는 독립 시스템의 정보가 합산된다는 직관을 반영한다. 3. **내부 강한 부분가법성 (Internal Strong Subadditivity)**: 동일 입력을 여러 시스템에 동시에 전달할 때 중복 정보를 차감하는 부등식 I(f×ₐg×ₐh) ≤ I(f×ₐg)+I(g×ₐh)−I(g). 이는 전통적인 강한 부분가법성(Strong Subadditivity)과 유사하지만, 내부 곱을 통해 범주론적으로 표현한다. 4. **단조성 (Monotonicity)**: 합성된 사상 g∘f 의 정보는 전처리 단계 f 보다 작거나 같다. 등호는 g 가 f 로부터 정보를 완전 복원할 수 있을 때만 성립한다. 이는 데이터 처리 불평등(Data Processing Inequality)과 동일하다. 5. **목적지 일치 (Destination Matching)**: 어떤 사상의 정보량은 그 코도메인의 항등 사상 정보량을 초과할 수 없다. 즉, I(f) ≤ I(id_B). 이는 수신 가능한 메시지 집합의 크기로 정보량을 제한한다는 의미이다. 이 공리들은 최소한의 가정으로 기본적인 정보 이론 정리를 증명할 수 있게 한다. **5. 다양한 정보 함수들의 적용** - **이산 경우 (FinSet)**: Hartley 엔트로피 H₀(f)=log|f(A)| 와 Shannon 엔트로피 H(f)=−∑_{b∈B} (|f⁻¹(b)|/|A|) log(|f⁻¹(b)|/|A|) 가 각각 공리를 만족한다. Aczel‑Forte‑Ng 정리에 따르면 FinSet에서 가능한 모든 정보 함수는 이 두 엔트로피의 선형 결합이다. - **잡음 포함 이산 모델 (NoisyFinSet)**: 객체를 (M,π_A) 로 두고, π_A: M→A 가 가시 메시지와 숨은 잡음 공간을 연결한다. 여기서 정의된 “노이즈 샤논 정보” NI(f)=I(π_B∘f;π_A) 가 Shannon 상호정보량과 동일하며, 채널 용량 C(f)=max_{p_A} NI(f) 로 정의된다. - **연속 경우 (Prob)**: 객체는 확률 측도 공간 (M,μ)이며, 사상은 역측도 보존 함수이다. 외부 곱은 (x,y)↦(f(x),g(y)) 로 정의되고, 내부 곱은 일반적으로 존재하지 않는다. 잡음 포함 연속 모델 (NoisyProb)에서는 동일한 방식으로 연속 상호정보량을 정의하고, 연속 채널 용량 C_cont(f) 를 supremum 형태로 제시한다. - **양자 경우 (Hilb)**: 유한 차원 힐베르트 공간을 객체로 하는 Hilb 범주에서 사상은 완전 양자 채널(완전 양자 연산)이다. 현재 논문은 양자 채널 용량이 제시된 공리를 만족하는지 확정하지 못했지만, 내부 곱이 얽힘을 어떻게 반영할지, 항등 채널의 정보량 정의 등 새로운 연구 질문을 제시한다. **6. 공리로부터 도출되는 기본 정리** - **정보량의 상한**: 목적지 일치 공리로부터 I(f) ≤ log|B| (이산) 혹은 I(f) ≤ H(id_B) (연속) 와 같은 상한을 얻는다. - **합성에 대한 부등식**: 단조성 및 내부 강한 부분가법성으로부터 I(g∘f) ≤ I(f) 와 I(f×ₐg) ≤ I(f)+I(g) 가 도출된다. - **동형 불변성**: 동형 사상 사이의 정보량 동일성을 통해 범주론적 동형 사상에 대한 불변량으로서 정보량을 해석한다. **7. 결론 및 향후 연구** 논문은 정보 이론을 범주론적 구조 위에 놓음으로써, 기존의 다양한 정보 측정값을 하나의 공리 체계로 통합했다. 이는 새로운 일반 정리와 함께, 아직 정형화되지 않은 양자 정보량, 고차원 복합 시스템 등에 대한 연구를 촉진한다. 향후 연구에서는 Hilb 범주의 내부 곱 정의, 양자 채널 용량의 공리 만족 여부, 그리고 더 일반적인 고차원 범주(예: 2‑카테고리)에서의 정보 흐름 모델링 등을 탐구할 예정이다.