경험적 과정의 인스턴스‑의존 균등 꼬리 경계

초록

본 논문은 함수 클래스 전체에 대한 최악‑케이스 편차 대신 각 함수별 편차를 이용한 균등 꼬리 경계를 제시한다. 기존 제네릭 체이닝에 “디플레이션” 단계와 Cramér 함수가 유도하는 세미노름을 도입해 복잡도와 인스턴스 편차를 각각 별도로 평가한다. 유한 지수 모멘트 가정 하에서는 일반화된 γ‑함수형을, 보다 일반적인 경우에는 약한 세미노름을 사용해 샘플 크기에 암묵적으로 의존하는 경계를 얻는다. 또한 Orlicz 노름과 그 불완전 버전을 통한 근사식도 제공한다.

상세 분석

이 논문은 경험적 과정 (Z_f = \frac1n\sum_{i=1}^n f(X_i)) 에 대한 균등 꼬리 경계를 기존의 “전체 최악‑케이스” 접근법에서 탈피하여, 각 함수 (f) 별로 정의되는 편차 함수 (T_r(f)) 를 핵심 도구로 삼는다. (T_r(f)) 은 Cramér 변환의 역함수로, (\log \mathbb{E}e^{\lambda f(X)}) 가 유한한 영역을 이용해 (\inf_{\lambda\ge0}\frac{r+\log\mathbb{E}e^{\lambda f(X)}}{\lambda}) 로 정의된다. 이 함수는 양의 동질성, 볼록성, 그리고 짝대기(짝수화) 연산을 통해 세미노름을 형성한다는 Lemma 1 의 성질을 갖는다.

핵심 아이디어는 “디플레이션(deflation)” 단계이다. 기존 제네릭 체이닝은 함수 클래스 (F) 를 다단계 admissible set ((A_\ell)) 로 커버하면서 (\sup_{f\in F}\sum_{\ell}2^{\ell/2}\rho(f,A_\ell)) 형태의 복잡도 (\gamma) 를 얻는다. 여기서 (\rho) 는 일반적으로 고정된 거리(예: (L_2) 혹은 서브가우시안 지표)이다. 저자는 (\rho_r(g,h)=T_r(g-h)) 라는 r‑의존 거리 함수를 도입하고, 각 스케일 (\ell) 에서 “디플레이트”된 함수 (f-A