측정 불변성·엔트로피·확률분포의 삼위일체

초록

이 논문은 측정 척도의 자연스러운 스케일링이 관측값의 가장 가능성 높은 확률분포를 결정한다는 점을 제시한다. 최대 엔트로피 방법에 측정 스케일을 정보 제약으로 도입하고, 작은 규모에서는 선형·큰 규모에서는 로그형 스케일이 학생‑t 분포를, 반대의 로그→선형 스케일이 감마 분포를 생성함을 보인다. 두 스케일은 라플라스 적분 변환으로 서로 역관계에 있으며, 슈퍼통계학도 이러한 적분 변환의 특수 경우로 해석한다.

상세 분석

본 연구는 “측정 스케일”이라는 개념을 정보 이론적 제약으로 정량화함으로써, 전통적인 최대 엔트로피(MaxEnt) 프레임워크를 확장한다. 기존 MaxEnt는 평균값·분산 등 제한된 모멘트를 이용해 엔트로피를 최적화하지만, 측정 과정 자체가 관측값에 비선형 변환을 가한다는 점을 무시한다. 저자들은 ‘측정 불변성(invariance)’이라는 원리를 도입해, 관측값 (x)에 적용되는 변환 (g(x))가 통계적 특성을 보존하도록 하는 함수군을 정의한다. 특히 두 가지 대표적인 변환군을 제시한다.

1. 선형→로그 스케일: 작은 (x)에서는 (g(x)\approx x) (선형), 큰 (x)에서는 (g(x)\approx \log x) (로그). 이 경우 정보 제약은 “측정된 값의 로그 평균이 일정”이라는 형태가 되며, 라그랑주 승수를 통해 얻어지는 확률밀도함수는
   \