전문가 수가 알려지지 않은 상황에서의 예측과 조언

초록

전문가 조언을 이용한 온라인 예측에서, 실제로 영향을 미치는 전문가 수(효과적 전문가 수)에만 의존하고 명시적인 전문가 수는 전혀 등장하지 않는 새로운 regret 경계가 제시된다. 방어적 예측 방식을 활용해 다중값 초마르티갈을 도입함으로써 기존 NormalHedge와 달리 명목 전문가 수에 대한 의존성을 완전히 제거한다.

상세 분석

이 논문은 온라인 학습의 대표적인 프레임워크인 전문가 조언(prediction with expert advice)에서 regret를 분석하는 새로운 접근법을 제시한다. 전통적인 regret 경계는 명목적인 전문가 수 N에 로그 항을 포함시키는 것이 일반적이며, 이는 실제로 예측에 크게 기여하지 않는 다수의 전문가가 존재할 때 과도하게 보수적인 결과를 초래한다. 최근 연구에서는 ‘효과적 전문가 수(Effective number of experts)’라는 개념을 도입해, 실제로 손실을 크게 줄이는 전문가들의 수에만 의존하는 경계가 가능함을 보였다. 그 중 NormalHedge 알고리즘은 효과적 전문가 수에 로그 항을 두면서도 명목 전문가 수 N에 대한 약한 의존성을 유지한다.

본 논문은 이러한 한계를 극복하고, 명목 전문가 수 N이 전혀 등장하지 않는 regret 경계를 구축한다. 핵심 아이디어는 방어적 예측(defensive forecasting)이라는 메타 알고리즘을 활용하는 것이다. 방어적 예측은 예측자가 자신의 예측을 ‘베팅’ 형태로 표현하고, 상대방(자연 혹은 적대적 환경)이 선택할 수 있는 모든 결과에 대해 일정한 초마르티갈(supermartingale) 조건을 만족하도록 설계한다. 저자들은 기존의 단일값 초마르티갈을 다중값 초마르티갈(multivalued supermartingale)로 일반화함으로써, 각 시간 단계에서 가능한 여러 손실 벡터에 대해 동시에 초마르티갈 조건을 유지할 수 있게 한다.

다중값 초마르티갈의 도입은 두 가지 중요한 효과를 만든다. 첫째, 전문가들의 손실 분포가 다양하고 복잡한 경우에도 하나의 스칼라 초마르티갈 대신 벡터 형태로 손실을 추적함으로써 더 정밀한 상한을 얻을 수 있다. 둘째, 초마르티갈 조건을 만족하는 예측 전략을 구성할 때, 명목적인 전문가 수 N에 대한 파라미터가 필요 없게 된다. 이는 방어적 예측이 ‘가능한 모든’ 전문가 집합에 대해 균등하게 방어하도록 설계되었기 때문이다.

수학적으로는, 저자들이 정의한 다중값 초마르티갈 (S_t)가 매 단계 (t)에서 (\mathbb{E}