상수 학습률을 이용한 이동 목표 추적을 위한 비점근적 오류 한계
본 논문은 상수 스텝사이즈 확률적 근사 알고리즘이 느리게 변하는 목표를 추적할 때, 전체 시간 구간에 대해 적용 가능한 비점근적 오류 상한을 제시한다. Alekseev 비선형 상수변화 공식과 마팅게일 집중 부등식을 활용해, 단계 크기, 차원, 잡음 특성 등을 명시적으로 포함한 오류식이 도출된다. 이는 기존의 점근적 분석과 달리 실제 상수 스텝사이즈에 대한 직접적인 성능 보장을 제공한다.
저자: Bhumesh Kumar, Vivek Borkar, Akhil Shetty
본 논문은 상수 학습률(constant stepsize)을 갖는 확률적 근사(stochastic approximation) 알고리즘이 시간에 따라 천천히 변하는 목표(모바일 에이전트)를 추적할 때, 전체 시간 구간에 대해 적용 가능한 비점근적(non‑asymptotic) 오류 상한을 제공한다는 점에서 기존 연구와 차별화된다.
1. **문제 설정 및 동기**
- 전통적인 Robbins‑Monro 형태의 확률적 근사식 \(x_{n+1}=x_n+a_n h(x_n)+M_{n+1}\) 은 단계 크기 \(a_n\) 를 감소시키면 거의 확실히 수렴한다는 이론적 보장이 있다(조건 (2)). 그러나 실제 추적 문제에서는 목표가 일정 시간 동안 변하기 때문에, 감소하는 단계 크기를 사용하면 알고리즘이 목표의 변화보다 느려져 추적이 불가능해진다. 따라서 일정하고 작은 상수 단계 크기 \(a>0\) 를 유지하면서도 잡음에 대한 고확률 수렴성을 확보하고자 한다.
2. **수학적 모델**
- 알고리즘 (4): \(x_{n+1}=x_n+a\bigl
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기