최대 엔트로피 분포와 카운팅의 양방향 연결

이 논문은 관측된 주변분포(마진)만을 알고 있을 때, 이산 객체 집합 위의 최대 엔트로피 분포를 효율적으로 구하는 방법을 제시한다. 일반적인 조건 하에 최대 엔트로피 분포는 다항 크기의 파라미터(γ)로 표현될 수 있음을 보이고, 근사 카운팅 오라클이 있으면 이를 이용해 최적화 알고리즘을, 반대로 최적화 알고리즘이 있으면 정확한 카운팅을 수행할 수 있음을 증명한다.

저자: Mohit Singh, Nisheeth K. Vishnoi

본 논문은 이산 객체 집합 M ⊆ {0,1}^m 위에서 관측된 주변분포(마진) θ만을 알고 있을 때, 해당 마진을 만족하는 최대 엔트로피 확률분포 p* 를 효율적으로 구하는 문제를 다룬다. 서론에서는 최대 엔트로피 원칙이 통계 물리, 경제학, 생물학, 정보 이론, 머신러닝, 조합론, 그리고 최근의 근사 알고리즘 설계 등 광범위한 분야에서 핵심 역할을 한다는 점을 강조한다. 특히 M이 지수적으로 큰 경우(예: 그래프의 스패닝 트리, 완전 매칭 등) 기존의 직접적인 선형/볼록 프로그램 접근법은 비현실적이다. 2장에서는 기본 개념과 기호를 정리하고, ‘조합 폴리토프’, ‘분리 오라클’, ‘카운팅 오라클’, ‘내부점(η‑interior)’ 등을 정의한다. 최대 엔트로피 문제는  max_{p∈Δ(M)} H(p) s.t. E_{p}

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기