경쟁적 분포 추정

**1. 서론 및 배경** 분포 추정 문제는 샘플 X₁,…,Xₙ 이 i.i.d. p 에서 생성될 때, p 를 KL 발산 D(p‖q) 관점에서 얼마나 정확히 복원할 수 있는지를 묻는다. 기존 최소‑최대 분석에 따르면, 전체 단순체 Δₖ 에 대해 최적 후회는 rₙ(Δₖ) ≈ (k‑1)/(2n) 이며, 이는 k 가 n 보다 크게 증가하면 손실이 상수 수준에 머무른다. 하지만 실제 응용에서는 k 가 n 과 비슷하거나 더 클 때가 많아, 보다 강건한 방법이 요구된다. **2. 경쟁적 프레임워크 정의** 오라클이 완전 정보를 갖는 경우와 달리, 두 가지 제한을 고려한다. - **(a) 순열 등가 클래스**: 오라클은 p 의 정확한 심볼 라벨을 모른다. 대신 p 와 같은 확률 다중집합(순열에 불변)만 안다. 이는 파티션 P_σ 을 형성한다. - **(b) 자연스러운 추정기**: 오라클은 p 를 완전히 안다. 하지만 추정기는 “자연스러워야” 한다. 즉, 동일 빈도 t 를 가진 모든 심볼에 동일 확률을 할당한다. 각 경우에 대해 경쟁적 후회는 \