비선형 확률 근사 알고리즘의 유한표본 Wasserstein 오차와 집중 부등식

초록

본 논문은 비선형 확률 근사(SA) 알고리즘의 마지막 반복값과 Polyak‑Ruppert 평균에 대해 Wasserstein‑p 거리 기준의 비점근적 오차 경계를 제시한다. 일반적인 잡음 모델(마팅게일 차이와 에르고딕 마코프 체인 함수)을 가정하고, 이산 시간 과정과 제한된 Ornstein‑Uhlenbeck 과정 사이의 커플링을 이용해 γₙ^{1/6}와 n^{-1/6}의 수렴 속도를 얻는다. 이를 통해 기존 모멘트 기반 방법보다 강력한 고확률 집중 부등식을 도출하고, 선형 SA에서 Weibull‑Gaussian 전이와 SGD에 대한 CLT 수렴률을 구체적으로 설명한다.

상세 분석

본 연구는 확률 근사(SA) 알고리즘의 비점근적 수렴을 Wasserstein‑p 거리라는 강한 위상에서 분석한다는 점에서 기존 문헌과 차별화된다. 핵심 아이디어는 이산 시간 SA 과정과 연속 시간 Ornstein‑Uhlenbeck(SDE) 과정을 커플링하여 두 과정 사이의 거리(특히 p‑Wasserstein)를 직접 제어하는 것이다. 이를 위해 저자는 단계 크기 γₙ=γ₁·n^{‑a}(a∈(0,1])를 가정하고, Lyapunov 방정식 Q≻0를 통해 가중 노름 ‖·‖을 정의한다. 이 노름 하에서 −Āₐ가 Hurwitz 안정성을 만족하면, (6)식과 같은 계약성을 확보할 수 있다.

잡음 가정은 두 축을 포함한다. 첫째, 마팅게일 차이(MDS) {Wₖ}가 조건부 2p‑모멘트와 공분산 수렴 속도(ρ_W) 등을 만족한다. 둘째, 상태 잡음 {ξₖ}는 ψ‑irreducible, aperiodic 마코프 체인이며, V‑함수를 통한 기하급 드리프트 조건을 만족한다. 이러한 가정 하에 Poisson 방정식(7)을 풀어 Φ, Φ_A를 정의하고, Mₖ=Φ(ξₖ)−PΦ(ξₖ₋₁)+Wₖ 로 구성된 MDS를 도입한다. Assumption 8은 Mₖ에 대한 균일 비점근적 중앙극한정리(CLT)를 가정하여, 길이 I 구간에 대해 Wₚ((IΓ)^{‑1/2}∑_{k=I₁}^{I₂}Mₖ, Z)≤C·I^{‑1/2}·CLTₚ(I) 형태의 오차를 확보한다.

주요 정리(Theorem 1, 2)는 (i) 마지막 반복 yₙ=γₙ^{‑1/2}(xₙ−x*)의 분포가 제한된 OU 과정의 정규분포와 Wasserstein‑p 거리에서 O(γₙ^{1/6}) 속도로 수렴함을, (ii) Polyak‑Ruppert 평균 \bar{x}_n이 동일한 정규분포와 O(n^{‑1/6}) 속도로 수렴함을 보인다. 증명은 (a) 재귀식에 대한 Lyapunov 분석, (b) Rosenthal 부등식과 비점근적 CLT를 결합한 오류 전파, (c) 커플링을 통한 연속‑이산 차이 제어 순서대로 전개된다.

이러한 분포적 수렴 결과를 이용해 고확률 집중 부등식도 도출한다. Wasserstein‑p 수렴이 Kolmogorov‑1보다 강하므로, “heavy‑tail” 현상이 유한 표본에서는 일시적이며, n이 충분히 크면 Gaussian 꼬리로 전이함을 정량화한다. 특히 선형 SA에서는 Weibull 꼬리 지수와 Gaussian 꼬리 사이의 전이 구간을 명시적으로 계산하고, SGD에서는 마코프 데이터에 대한 CLT 수렴률을 n^{‑1/6}로 제시한다.

마지막으로, 논문은 확장 가능성을 논의한다. (i) 마팅게일 차이 대신 일반적인 의존 잡음에 대한 비점근적 CLT를 가정하면 결과가 그대로 유지된다. (ii) Polyak‑Ruppert 평균의 초기 “transient” 구간을 별도 분석함으로써 평균이 수렴하기 전 단계에서도 유용한 오차 경계를 제공한다. 전반적으로, Wasserstein‑p 거리 기반 비점근적 분석이 SA와 SGD의 이론적 이해를 크게 확장시킨다.