제약된 적대자와 온라인 학습의 새로운 프레임워크

초록

이 논문은 적대자의 움직임에 제약을 두어 i.i.d. 부터 최악의 경우까지 다양한 데이터 가정을 포괄하는 온라인 학습 게임을 정의하고, 순차적 대칭화 기법을 이용해 분포‑의존적 Rademacher 복잡도를 도입한다. 이를 통해 변동형 경계, i.i.d. 적대자와 배치 학습의 동등성, 하이브리드‑스튜퍼바이즈 가정, 그리고 소음이 섞인 ‘스무딩’ 모델에서 무한 Littlestone 차원을 가진 반평면 문제의 학습 가능성을 증명한다.

상세 분석

본 연구는 기존 온라인 학습 이론이 다루던 두 극단, 즉 i.i.d. 통계적 설정과 완전 적대적 설정 사이의 중간 영역을 체계적으로 탐구한다. 핵심 아이디어는 적대자의 선택을 제한하는 ‘제약(P₁:ₜ)’을 정의하고, 이를 게임‑이론적 최소극대값 Vₜ(P₁:ₜ) 로 표현하는 것이다. 제약은 각 라운드에서 적대자가 선택할 수 있는 확률분포 집합을 지정하며, 이는 최악‑경우, 제약‑조건, 스무딩, 하이브리드, i.i.d. 등 다양한 형태로 구체화된다.

논문은 먼저 미니맥스 정리를 적용해 적대자의 전략을 ‘무지(obliviou) 전략’으로 제한해도 최적값에 변화가 없음을 보인다(정리 1, 명제 2). 이는 외부 레그레트(regret)라는 목표가 적대자의 적응성을 완전히 흡수한다는 점에서 중요한 통찰이다.

그 다음 순차적 대칭화(sequential symmetrization)를 수행하여 Vₜ(P₁:ₜ)를 Rademacher 변수 εₜ와 함께 기대값 형태로 상한한다. 여기서 도입된 ‘분포‑의존적 순차 Rademacher 복잡도’는 기존의 고전적 Rademacher 복잡도와 최악‑경우 복잡도를 모두 포함하는 일반화된 개념이다. 이 복잡도는 제약 집합 Pₜ가 어떻게 변하느냐에 따라 달라지며, 변동형(variation‑type) 경계가 즉시 도출된다.

특히 i.i.d. 제약(Pₜ≡p) 하에서는 온라인 레그레트와 배치 학습의 최소극대값이 동일함을 증명함으로써 두 학습 패러다임의 동등성을 확립한다. 이는 기존 결과를 일반화한 것으로, 배치 학습에서의 일반화 오류와 온라인 레그레트가 동일한 복잡도 지표에 의해 제어된다는 의미이다.

감독 학습(supervised learning) 섹션에서는 입력 x와 레이블 y의 선택 방식에 따라 하이브리드 모델을 정의한다. 저자는 x가 i.i.d. 이면서 y가 적대적으로 선택되는 경우와 그 반대 경우를 비교 분석한다. 결과는 x의 생성 방식이 전체 복잡도를 지배한다는 점을 보여준다; y가 어떻게 선택되든, x가 제한된 경우에만 유의미한 학습 보장이 가능하다.

마지막으로 ‘스무딩’ 모델을 도입한다. 여기서는 적대자가 최악의 시퀀스를 선택하되, 각 선택에 독립적인 작은 잡음(예: 가우시안)을 추가한다. 이 잡음이 지수적으로 작은 규모라도 무한 Littlestone 차원을 가진 반평면(half‑space) 문제를 학습 가능하게 만든다. 즉, 미세한 확률적 섞임이 구조적 복잡도를 실질적으로 낮추어 온라인 레그레트를 유한하게 만든다.

전반적으로 논문은 ‘제약된 적대자’라는 새로운 프레임워크를 통해 온라인 학습의 복잡도 분석을 통합적이고 일반화된 방식으로 수행한다. 순차적 대칭화와 분포‑의존적 Rademacher 복잡도라는 도구는 다양한 데이터 가정 하에서 레그레트 경계를 도출하는 강력한 분석 틀을 제공한다.