학습 불가능한 부분수열을 가진 시퀀스
본 논문은 계산 효율적인 결과‑예측 기반 검사 규칙들의 전체 집합에 대해, 모든 부분적으로 약하게 계산 가능한 무작위 예측 알고리즘을 동시에 오보정시키는 무한 이진 시퀀스를 확률적으로 생성할 수 있음을 보인다. 이는 Dawid의 사전적(prequential) 프레임워크 하에서 부분 재귀적 무작위 예측 시스템을 대상으로 한 보편적 교정 가능성 결과가 비효율적인 경우에는 깨진다는 것을 의미한다.
저자: Vladimir V. Vyugin
본 논문은 Dawid가 제시한 사전적(prequential) 프레임워크를 출발점으로, 무작위화된 예측 알고리즘과 결과‑기반 검사 규칙 사이의 교정 가능성을 탐구한다. 서론에서는 Foster와 Vohra가 제시한 “모든 시퀀스는 보편 무작위 예측기와 적절한 검사 규칙을 통해 학습될 수 있다”는 결과를 소개하고, 이러한 결과가 전체 확률분포를 전제로 하는 비효율적인 구현에 의존한다는 점을 지적한다. 이어서, 계산 효율성을 고려한 새로운 모델을 정의한다.
1. **모델 정의**
- **부분 재귀적 무작위 예측기** \(f\): 입력으로 과거 관측 \(\omega_{1..n-1}\)와 외부 난수 \(\alpha\)를 받아 예측값 \(\tilde p_n\)를 출력한다. 이때 \(\tilde p_n\)는 부분 재귀 함수로서, 정의되지 않을 수도 있다.
- **약하게 계산 가능한**(weakly computable) 예측기: 각 시점 \(n\)에서 \(\varphi_n(\omega_{1..n-1}) = \Pr\{\tilde p_n < 1/2\}\) 가 부분 재귀 함수인 경우.
- **결과 기반 검사 규칙** \(\delta:\Xi\to\{0,1\}\): 과거 관측에만 의존해 인덱스를 선택한다. 선택된 인덱스 집합 \(\{i_k\}\)에 대해, 해당 부분수열에 대해 교정 여부를 검사한다.
2. **기존 결과와의 차이**
기존의 보편 무작위 예측기(예: Foster‑Vohra, Sandrony 등)는 과거 예측값까지 포함하는 확장된 입력을 사용한다. 이는 전체 확률분포를 암묵적으로 가정하게 되며, 계산 효율성 측면에서 비현실적이다. 본 논문은 과거 관측만을 이용하는 제한된 형태의 예측기에 초점을 맞추어, 이러한 제한 하에서 교정이 불가능함을 증명한다.
3. **주요 정리(Theorem 1)**
임의의 \(\varepsilon>0\)에 대해, 확률 \(1-\varepsilon\)로 무한 이진 시퀀스 \(\omega\)를 생성하는 확률 알고리즘 \((L,F)\)가 존재한다. 이 \(\omega\)에 대해, 모든 약하게 계산 가능한 무작위 예측기 \(f\)와 모든 결과 기반 검사 규칙 \(\delta\)에 대해, 구간 \(
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기