숨은 마르코프 체인의 엔트로피 비율 점근식

본 논문은 정보 이론과 확률 과정 분야에서 핵심적인 역할을 하는 숨은 마르코프 체인(Hidden Markov Chain, HMC)의 엔트로피 비율(Entropy Rate)에 대한 새로운 점근적 분석을 제시한다. 서론에서는 엔트로피 비율이 채널 용량, 데이터 압축, 그리고 통신 시스템 설계 등에 필수적인 지표임을 강조하고, 특히 숨은 마르코프 모델이 실제 통신 채널(예: 디지털 변조, 오류 정정 부호)에서 관측 노이즈와 상태 전이의 복합 효과를 포착하는 데 유용함을 설명한다. 그러나 일반적인 경우 전이 행렬과 관측 확률 행렬이 복잡하게 얽혀 있어, 정확한 엔트로피 비율을 구하는 것이 거의 불가능에 가깝다. 이에 저자들은 “약한 블랙홀”(weak Black Hole)이라는 특수한 전이 행렬 구조를 정의한다. 구체적으로, 전이 행렬 A(ε)는 A₀ + εA₁ 형태이며, A₀는 모든 열이 동일한 확률벡터 v를 갖는 마르코프 행렬이다. 이 경우, A₀는 상태 공간을 하나의 “블랙홀”로 끌어당겨, 장기적으로 모든 초기 분포가 v로 수렴한다. ε가 0에 가까워질수록 A₁이 제공하는 작은 교란이 시스템에 미치는 영향을 분석함으로써, 엔트로피 비율의 미세한 변화를 포착하고자 한다. 본 논문의 핵심 결과는 다음과 같다. 첫째, 엔트로피 비율 H(ε)는 ε→0 일 때 \