손실 기반 업데이트, 언제 베이즈인가?

초록

이 논문은 손실 기반(일반화 베이즈, Gibbs, quasi‑posterior) 업데이트를 “믿음 사후분포”와 “결정 사후분포”로 명확히 구분하고, 손실이 부정 로그우도(스케일·데이터 전용 항 제외)일 때만 전통적 베이즈 사후분포와 동일함을 증명한다. 또한 일반화 주변가능도는 증거로 사용할 수 없으며, 비선형 선호가 없으면 비퇴화된 일반화 사후분포가 존재하지 않음을 보인다. 순차적 일관성과 독립 문제에 대한 분리 가정 하에 엔트로피‑패널티 형태가 최적화 규칙을 결정하고, 이를 통해 일반화 베이즈가 최적의 결정 사후분포임을 이론적으로 정당화한다.

상세 분석

본 연구는 손실 기반 업데이트를 두 가지 개념적 객체, 즉 “믿음 사후분포(belief posterior)”와 “결정 사후분포(decision posterior)”로 구분한다. 믿음 사후분포는 Savage‑Anscombe‑Aumann 프레임워크에 기반한 조건부 확률로, 사전·우도 모델이 존재하고 동적 일관성(dynamic consistency) 원칙에 의해 베이즈 조건부 업데이트가 유일하게 도출된다. 반면 결정 사후분포는 데이터 관측 후 선택되는 확률적 행동 규칙이며, 이는 손실 함수 ℓ(θ;x)와 사전 분포 π에 의해 정의된 최적화 문제의 해로 해석된다.

핵심 정리는 두 가지이다. 첫째, 일반화 베이즈 형태 q(θ|x)∝π(θ)exp{−ηℓ(θ;x)}가 진정한 베이즈 사후분포가 되려면 ℓ(θ;x) = −(1/η)log p_θ(x) + c(x) 형태여야 한다는 것(정리 1). 여기서 c(x) 는 θ와 무관한 데이터 전용 항이며, η는 스케일 상수이다. 즉, 손실이 부정 로그우도(스케일·데이터 전용 항 제외)와 동등할 때만 믿음 사후분포와 일치한다. 이 조건이 깨지면 해당 업데이트는 믿음 사후분포가 아니라 결정 사후분포로 해석해야 한다.

둘째, 결정 사후분포를 정당화하기 위한 선호 공리 체계가 제시된다. 약한 순서와 연속성(A1), 손실 단조성(A2), 순차적 일관성(A3), 그리고 독립 하위문제에 대한 분리성(A4) 등을 가정한다. 이러한 공리 하에 선호는 변분 형태
\