동형 카디널리티와 엔트로피: 유형 이론적 접근
초록
본 논문은 동형 유형 이론(HoTT)에서 정의되는 동형 카디널티를 이용해 확률 유형과 무작위 변수 유형을 구성하고, 셰넌 엔트로피를 특정 유형의 동형 카디널티로 표현한다. 의존 합에 대한 카디널티 보존 정리를 증명하고, 의존 곱에서는 일반적으로 성립하지 않음을 보이며, 트리비얼 전이 작용 하에서 엔트로피의 체인 규칙을 유도한다.
상세 분석
논문은 먼저 동형 카디널티 |X|를 “∑{x∈X} 1·|x=x|” 로 정의하고, 이는 집합의 원소 수와 Baez‑Dolan의 군oid 카디널티를 일반화한다. 기본적인 합·곱 정리(|X+Y|=|X|+|Y|, |X×Y|=|X|·|Y|)는 정규 경로 동형을 이용해 직접 증명한다. 핵심은 Theorem 3.4(Cantor)으로, 1‑truncated 타입 X와 각 fiber P x가 유한 차수와 결정적 동등성을 가질 때 의존 합 Σ{x:X}P x의 카디널티가 Σ_{x∈X}|P x|·|x=x| 와 일치함을 보인다. 증명은 궤도‑안정자 정리를 타입 이론적 관점에서 전개하고, 전이(transport) 작용이 결정적이므로 각 궤도에 대해 동일한 카디널티를 부여한다.
반면 의존 곱에 대해서는 일반적인 곱셈 공식 |X→Y|=|Y|^{|X|}가 깨진다. Fin(2)와 같은 연결된 1‑type을 예로 들어, 각 원소가 Z/2Z 자동군을 가지므로 |Fin(2)|=1/2이지만, ∏_{X:Fin(2)}X≃0 이 되어 카디널티가 0이 된다. 이는 고차 동형 구조가 함수 타입의 카디널티를 단순히 원소 수만으로는 결정할 수 없음을 보여준다. 다만 도메인이 집합이면 전통적인 곱셈 공식이 성립한다는 부가 정리를 제시한다.
확률 유형은 |X|=1인 타입으로 정의하고, 각 원소 x의 확률을 p_x=1/|x=x| 로 설정한다. 이는 자동군의 크기에 따라 자연스럽게 균등 분포를 제공한다(예: Z/2Z×B(Z/2Z)≃B(Z/2Z)+B(Z/2Z) 가 1을 갖는다). 또한 동형 몫 G//G 를 이용하면 군의 공액 클래스마다 1/|G| 확률을 부여하는 확률 유형을 만들 수 있다.
엔트로피 표현에서는 로그의 멱급수 전개 −ln(1−t)=∑{n≥1}t^n/n 를 타입 이론적으로 구현한다. 이를 위해 순환군 Z/nZ 의 디루핑 B Z_n 을 사용해 “사이클 타입” C=∑{n≥1}B Z_n 을 정의한다. 각 c∈B Z_n 에 대해 |c=c|=n 이므로 (c=c)→\bar X(x) 의 카디널티는 | \bar X(x) |^n 이 된다. 여기서 \bar X(x)=∑{y∈X}¬‖x=y‖ 은 x를 제외한 나머지 원소들의 집합이며, | \bar X(x) | = 1−p_x . Theorem 5.3 은 Σ{x∈X} Σ_{c∈C}(c=c)→\bar X(x) 의 동형 카디널티가 정확히 H(p)=−∑_x p_x ln p_x 와 일치함을 증명한다. 핵심은 Theorem 3.4 를 두 번 적용해 내부 합을 사이클 타입에 대해, 외부 합을 X에 대해 수행하고, 멱급수 전개를 이용해 로그를 재구성하는 것이다.
마지막으로 Proposition 5.6 은 트리비얼 전이 가정 하에 의존 합 Σ_{a:A}B(a) 가 만든 결합 확률 유형에 대해 엔트로피 체인 규칙 H(Σ_{a}B(a)) = H(A) + Σ_{a} p_a H(B(a)) 를 보인다. 전이 작용이 비트리비얼이면 궤도에 따라 확률이 재분배되어 곱 형태가 깨지므로 체인 규칙이 성립하지 않는다.
전체적으로 논문은 동형 카디널티와 정보 이론 사이의 깊은 연관성을 타입 이론적 구조를 통해 명시화하고, 특히 확률 분포와 엔트로피를 “카디널티”라는 단일 수치로 통합한다는 새로운 관점을 제공한다.
댓글 및 학술 토론
Loading comments...
의견 남기기