가변 폭 히스토그램을 이용한 근접 최적 밀도 추정

본 논문은 구간 수 k와 허용 오차 ε가 주어졌을 때, 임의의 확률밀도 \(p\)에 대해 가변 폭 히스토그램 형태의 추정기를 효율적으로 학습하는 방법을 제시한다. 문제 설정은 전통적인 비모수 밀도 추정의 “agnostic” 버전으로, 목표는 \(C\)-근사(α‑agnostic) 학습 알고리즘을 설계하는 것이다. 여기서 \(C\)는 상수이며, 알고리즘은 모든 \(p\)에 대해 \(d_{\mathrm{TV}}(p,h)\le C\cdot\mathrm{opt}_k(p)+ε\)를 만족한다. **주요 결과** 1. **샘플·시간 복잡도**: \(\tilde O(k/ε^2)\) 샘플과 동일한 순서의 실행 시간으로, 정보 이론적 하한에 로그 팩터만큼 초과한다. 2. **출력 히스토그램 구조**: 구간 수는 \(O(k\log^2(1/ε))\)이며, 각 구간은 데이터에 의해 자동으로 폭이 조정된다(가변 폭). 3. **근사 상수 하한**: \(C<2\)는 샘플 수가 \(poly(k,1/ε)\)로 제한될 경우 불가능함을, k=2인 경우에 대한 Ω(√N) 하한을 통해 증명한다. **알고리즘 설계** - **Well‑Behaved 전처리**: 입력 분포가 \(\kappa\)-well‑behaved(아톰이 없고, 각 점의 질량 ≤ \(\kappa\))라 가정하고, \(\kappa = ε/(384k)\) 정도로 설정한다. 이 경우, “Approximately‑Equal‑Partition” 서브루틴을 이용해 \(\Theta(1/κ)=\Theta(k/ε)\)개의 구간을 만든다. 각 구간은 확률 질량이 \(