온라인 학습의 새로운 지평 외부 후회를 넘어서는 성능 측정

초록

본 논문은 외부 후회에 국한되지 않은 다양한 성능 척도를 포괄하는 온라인 학습 이론을 제시한다. 학습 가능성을 세 가지 핵심 요소—마팅게일 수렴항, 미래를 알았을 때 최적 수행 가능성, 순차 라데마르 복잡도—로 귀결시키며, 기존 알고리즘 기반 결과들을 복잡도 관점에서 일반화·강화한다.

상세 분석

이 연구는 Rakhlin·Sridharan·Tewari(2010)의 순차적 Rademacher 복잡도 프레임워크를 확장하여, 외부 후회(external regret)뿐 아니라 내부 후회(internal regret), Φ‑후회, 비가산(global) 비용 함수, Blackwell 접근 가능성, 예측기 보정(calibration), 적응 후회(adaptive regret) 등 다양한 성능 지표를 하나의 통합 이론으로 묶는다. 핵심은 “학습 가능성(learnability)”을 세 가지 정량적 요소로 분해한다는 점이다. 첫 번째는 마팅게일 차분을 이용한 수렴 항으로, 이는 관측된 손실 시퀀스가 마팅게일 차원에서 평균 0에 수렴함을 보장한다. 두 번째는 “오프라인 최적성(oracle optimality)”이라 부르는 항으로, 미래 손실이 완전히 알려졌을 때 최적 전략을 수행할 수 있는 능력을 측정한다. 이는 일반적인 “베스트‑인‑히스토리”와는 달리, 미래 정보를 가정한 가상의 최적 플레이어와의 차이를 정량화한다. 세 번째는 순차 Rademacher 복잡도로, 함수 클래스의 순차적 풍부함을 평가한다. 기존 정적 Rademacher 복잡도와 달리, 여기서는 적응적 선택에 따라 변하는 입력 시퀀스를 고려해 복잡도를 정의한다. 논문은 이 세 요소가 모두 유한하면, 어떤 성능 측정이라도 “무한 시간 한계에서 평균 손실 차이가 0”이 되도록 하는 온라인 알고리즘이 존재함을 증명한다. 흥미롭게도, 알고리즘 자체를 설계하지 않고도 복잡도 분석만으로 기존에 알고리즘 기반으로 증명된 결과들을 더 일반적인 조건 하에 재현·확장한다. 예를 들어, Blackwell 접근 가능성은 특정 선형 손실 구조를 갖는 경우에 해당하는데, 이 경우 복잡도 항이 0에 수렴함을 보이면 접근 가능성을 바로 얻을 수 있다. 또한, Φ‑후회의 경우 손실 함수가 Φ‑변환된 형태로 정의되는데, 이 변환이 Lipschitz 연속이면 순차 Rademacher 복잡도가 기존 경우와 동일하게 적용된다. 따라서 다양한 문제를 개별적으로 다루는 대신, 하나의 통합 프레임워크로 복잡도와 마팅게일 수렴성을 검증하면 자동으로 학습 가능성을 확보할 수 있다.