효율적인 워싱턴 거리 기반 분포 학습과 데이터 의존 오류 한계

초록

본 논문은 샘플로부터 얻은 데이터에 기반해, 이산 분포 (\widehat{\mathbb{P}}) 를 구성하고, 미지의 원본 분포 (\mathbb{P})와의 Wasserstein 거리 상한을 고신뢰도로 계산할 수 있는 새로운 MILP 기반 프레임워크를 제시한다. 클러스터링을 통해 지원점을 최적화하고, 기존 방법보다 훨씬 작은 지원 크기와 더 타이트한 오류 한계를 제공한다.

상세 분석

이 논문은 확률 분포 학습에서 가장 핵심적인 문제 중 하나인 “Wasserstein 거리”를 비대칭적으로 활용한다. 기존 연구들은 주로 전체 샘플 수 (N) 과 차원 (d) 에만 의존하는 보수적인 수렴율을 제시했으며, 실제 데이터가 제공하는 구조적 정보를 활용하지 못했다. 저자들은 이러한 한계를 극복하기 위해 두 가지 혁신적인 아이디어를 도입한다. 첫째, 데이터에 의해 정의된 파티션 ({C_i}{i=1}^M) 과 대표점 ({c_i}{i=1}^M) 을 이용해 “클러스터화된 경험분포” (\widehat{\mathbb{P}}) 를 만든다. 여기서 (M) 은 최종 이산 분포의 지원 크기로, 사용자는 (M\ll N) 을 목표로 설정한다. 둘째, 미지의 원본 분포 (\mathbb{P}) 에 대한 사후 확률 구간 (