VC 클래스의 균일 근사와 브래킷 수 제한에 관한 새로운 통찰

초록

본 논문은 유한 VC 차원을 가진 집합류가 임의의 오차 한계 내에서 유한 파티션을 통해 균일하게 근사될 수 있음을 증명한다. 이를 통해 VC 클래스는 유한 브래킷 수를 가지며, 강한 의존성을 가진 샘플링(예: 에르고딕 과정)에서도 균일 평균법칙과 균일 혼합성을 만족한다는 중요한 결과를 도출한다.

상세 분석

VC 차원(Vapnik‑Chervonenkis dimension)은 통계학·학습이론에서 함수 혹은 집합 클래스의 복잡도를 정량화하는 핵심 개념이다. 기존 연구에서는 VC 차원이 유한하면 경험적 위험 최소화와 같은 학습 알고리즘이 일반화 오차를 확률적으로 제어할 수 있음을 보였으며, 이는 주로 i.i.d. 표본에 대한 대수적 엔트로피(covering number)와 브래킷 엔트로피를 이용한 결과에 기반한다. 그러나 실제 데이터는 종종 시간적·공간적 의존성을 내포하고 있어, 에르고딕 혹은 마코프 의존 구조 하에서 동일한 수렴 특성을 확보하는 것이 도전 과제였다.

본 논문은 “균일 근사”라는 새로운 접근을 도입한다. 구체적으로, VC 차원이 d인 클래스 𝔽에 대해 임의의 ε>0가 주어지면, 전체 표본 공간을 유한 개의 셀로 나누는 파티션 Πε를 구성할 수 있다. 이 파티션의 각 셀은 𝔽의 모든 집합이 동일한 셀 안에서 거의 동일하게 행동하도록 보장한다(즉, 셀 내에서 집합들의 지표 함수 차이가 ε 이하). 핵심은 파티션의 크기가 ε와 d만의 함수이며, 샘플 크기에 의존하지 않는다는 점이다.

이 균일 근사 결과는 즉시 두 가지 중요한 브래킷 관련 속성을 유도한다. 첫째, 브래킷 수(N_{