의존 데이터에 대한 경험적 과정 상한의 일반적 집중 불평등과 학습 적용

초록

본 논문은 β‑mixing 의존 구조를 갖는 고차원·서브위블(α) 데이터에 대해, generic chaining과 커플링 기법을 결합한 새로운 집중 불평등을 제시한다. 이를 바탕으로 의존 시계열 회귀에서 경험적 위험 최소화(ERM)의 비점근적 오라클 부등식을 도출하고, 단층 신경망을 포함한 비선형 회귀 모델에 대한 예측 정확도 보장을 얻는다. 결과는 효과적 표본 크기 n을 사용해 i.i.d. 경우와 동일한 수렴 속도를 확보함을 보여준다.

상세 분석

이 논문은 경험적 과정의 상한을 다루는 기존 연구가 독립동일분포(i.i.d.) 가정에 크게 의존해 왔다는 점을 지적하고, 경제학·계량경제학에서 흔히 나타나는 시계열 의존성을 포함하도록 이론을 확장한다. 핵심은 두 가지 고수준 가정(A.1, A.2)이다. A.1은 함수값 차이의 서브위블(α) 준노름이 파라미터 거리 d_Θ에 비례한다는 ‘증분 조건’으로, 이는 generic chaining을 적용하기 위한 Lipschitz‑type 제어를 제공한다. A.2는 동일한 마진을 갖는 복제 벡터 Z*_t와 원본 Z_t 사이의 거리 d_Z가 L_r‑norm으로 제어될 수 있음을 요구하는 ‘커플링 조건’이다. 이 조건을 통해 Merlevède‑Peligrad의 커플링 정리를 이용해 의존 시퀀스를 i.i.d. 복제열로 근사하고, 근사 오차를 β‑mixing 계수 β(l) 로 정량화한다.

Talagrand의 γ_α 함수는 파라미터 공간 Θ의 복잡도를 측정하는 핵심량으로, admissible partition 시퀀스를 통해 정의된다. 정리 2.1은 sup_{θ∈Θ} |(1/T)∑_{t=1}^T