두 매개변수 확장 상대 엔트로피의 공리적 특성화

본 논문은 두 실수 매개변수 α, β (0≤α≤1≤β 또는 0≤β≤1≤α)를 갖는 확장 상대 엔트로피 D₍α,β₎(X‖Y)를 정의하고, 연속성, 대칭성, 가법성이라는 세 가지 공리를 가정했을 때 이 함수가 \(D_{\alpha,\beta}(X\|Y)=\sum_{j=1}^{n}\frac{x_j^{\alpha}y_j^{1-\alpha}-x_j^{\beta}y_j^{1-\beta}}{\alpha-\beta}\) 형태로 유일하게 결정됨을 증명한…

저자: Shigeru Furuichi

본 논문은 정보이론에서 핵심적인 역할을 하는 상대 엔트로피(또는 Kullback‑Leibler 발산)의 두 매개변수 확장 형태를 공리적으로 규정하고, 그 유일성을 증명한다. 먼저 서론에서는 Shannon 엔트로피와 그 1‑parameter 확장인 Tsallis 엔트로피·상대 엔트로피의 역사적 배경과 기존의 공리적 특성화(Shannon‑Khinchin, Faddeev, Hobson 등)를 정리한다. 특히 Tsallis 상대 엔트로피는 매개변수 q 에 따라 \(D_q(X\|Y)=\sum_j \frac{x_j - x_j^q y_j^{1-q}}{1-q}\) 로 정의되며, q→1일 때 Kullback‑Leibler 발산으로 수렴한다는 점을 강조한다. 그 다음 섹션에서는 두 매개변수 α, β (0≤α≤1≤β 또는 0≤β≤1≤α)를 갖는 확장 상대 엔트로피 \(D_{\alpha,\beta}(X\|Y)\)를 도입한다. 정의는 \

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기