비극적 대칭 붕괴를 일으키는 비극성 엔트로피와 디리클레 사전

초록

비극성(비가역) 엔트로피를 이용하면, 대칭적인 디리클레 사전에도 불구하고 파라미터 q가 특정 값으로 변할 때 최대 엔트로피 분포가 비대칭을 보인다. 이는 물리학의 자발적 대칭 붕괴와 유사한 현상이며, 엔트로피 정의 자체가 대칭성을 파괴할 수 있음을 보여준다.

상세 분석

본 논문은 비극성 엔트로피, 특히 Tsallis 형태 S_q = (1‑∑_i p_i^q)/(q‑1) 를 확률분포의 사전(Prior)과 결합했을 때 나타나는 비대칭 현상을 체계적으로 분석한다. 먼저 저자들은 전통적인 Shannon 엔트로피가 Dirichlet 사전(α_i=α)과 결합될 경우, 사전이 대칭적이므로 사후분포 역시 대칭을 유지한다는 점을 상기한다. 그러나 q≠1인 비극성 엔트로피는 확률값을 q제곱으로 가중함으로써 큰 확률과 작은 확률 사이의 상대적 중요도를 조정한다. q>1이면 큰 확률이 더욱 강조되고, q<1이면 작은 확률이 부각된다. 이러한 비선형 가중은 사전이 완전 대칭이라 할지라도, 엔트로피를 최대화하는 최적화 조건 ∂S_q/∂p_i=0이 각 p_i에 대해 동일한 해를 제공하지 않게 만든다. 특히 저자들은 K개의 상태에 대해 α가 동일한 Dirichlet 사전을 가정하고, 라그랑주 승수를 도입해 제약조건(∑p_i=1)을 포함한 최적화 방정식을 유도한다. 그 결과, q가 임계값 q_c를 초과하면 해가 p_i=1/K가 아닌, 몇몇 상태에 집중된 비대칭 해로 전이한다. 이는 물리학에서 파라미터가 임계값을 넘을 때 진공이 대칭적인 상태에서 비대칭적인 상태로 전이하는 ‘자발적 대칭 붕괴(Symmetry Breaking)’와 구조적으로 동일하다. 논문은 또한 q가 1에 가까울수록 전이점이 K와 α에 따라 어떻게 이동하는지를 수치적으로 시뮬레이션하고, 엔트로피 곡면의 2차 미분(헷시안) 분석을 통해 전이의 2차 상전이 특성을 확인한다. 마지막으로 저자들은 이러한 현상이 정보 이론에서 ‘편향된 사전’이 아니라 ‘엔트로피 자체의 비대칭성’에 기인함을 강조하며, 베이지안 추정, 머신러닝 모델의 정규화, 복잡계 물리학 등 다양한 분야에 파급 효과를 제시한다.