무한 트리 비모수 베이지안 추론의 정확한 해법

초록

이 논문은 i.i.d. 표본으로부터 미지의 분포를 추정하기 위해, 데이터에 따라 자동으로 세분화되는 무한 이진 트리 구조에 베이지안 사전(prior)을 부여하고, 그 사후(posterior)를 정확히 계산하는 알고리즘을 제시한다. 재귀적 분할, 베타-디리클레 사전, 그리고 효율적인 동적 프로그래밍을 이용해 증거(evidence), 예측 분포, 모델 차원 등의 양을 빠르게 구할 수 있으며, 수렴성과 일관성도 이론적으로 증명한다.

상세 분석

본 연구는 연속 혹은 이산 공간을 무한히 깊은 이진 트리로 표현하고, 각 노드가 “분할(split)” 혹은 “정지(stop)”할 확률을 베타 사전으로 모델링한다는 점에서 기존의 디리클레 과정(DP)이나 파라메트릭 혼합 모델과 차별화된다. 트리의 각 리프는 해당 영역에 대한 균일 분포를 가정하므로, 전체 사전은 “무한히 많은 트리”에 대한 확률 측정이 된다. 핵심 기여는 이 사전 하에서 데이터 증거와 사후를 정확히 계산할 수 있는 재귀적 공식이다. 구체적으로, 노드 (v)에 할당된 데이터 수를 (n_v)라 하면, 분할 여부에 대한 베타-베르누이 사전과 리프에서의 다항(또는 균일) 사후를 결합해
\