확률 업데이트와 최대 상대 엔트로피: 경제계량학 적용

초록

본 논문은 관측 데이터와 모멘트 제약을 동시에 반영하는 최대 상대 엔트로피(ME) 방법을 제시하고, 이를 경제계량 모델에 적용한 구체적 사례를 통해 절차와 장점을 설명한다.

상세 분석

논문은 베이즈 정리와 정보 이론을 연결하는 최대 상대 엔트로피(ME) 프레임워크를 기반으로 한다. 기존 베이즈 업데이트는 데이터만을 이용해 사후분포를 구하지만, 실제 경제문제에서는 평균, 분산 등 모멘트 정보가 별도로 알려지는 경우가 많다. 저자는 이러한 모멘트 제약을 라그랑주 승수 형태로 엔트로피 최적화에 포함시켜, 데이터와 제약을 동시에 만족하는 사후분포를 도출한다. 수학적으로는 사전분포 q(θ)와 관측 데이터 x를 이용해 상대 엔트로피 S