비선형 시스템을 위한 약한 볼록성 기반 적응 예측·제어

초록

본 논문은 약한 볼록성(weak convexity) 조건 하에서 비선형 확률 동적 시스템의 적응 예측 및 제어를 위한 새로운 그래디언트 기반 알고리즘을 제안한다. 영구적 자극(persistent excitation) 없이도 전역 수렴과 명시적 수렴 속도를 증명하고, 최소 위상(minimum‑phase) 및 선형 성장 제한(linear growth bound) 가정 하에 폐루프 제어 오차의 수렴률을 도출한다. 실제 사법 판결 데이터와 시뮬레이션을 통해 실효성을 확인하였다.

상세 분석

이 논문은 기존 적응 제어 연구가 강한 볼록성 혹은 영구적 자극(PE) 조건에 의존해 온 점을 비판하고, 보다 현실적인 약한 볼록성 가정을 도입한다는 점에서 학문적 의의가 크다. 약한 볼록성은 ∇J(θ)·(θ−θ*) ≥ δ J(θ) (δ∈(0,1]) 형태로 정의되며, 이는 ReLU, 시그모이드, 포화 함수 등 비선형 활성화 함수를 포함하는 광범위한 손실 함수에 적용 가능하다. 논문은 이 가정이 선형 평균제곱 손실에서는 δ=2, c₁=4 등 구체적인 상수로 만족함을 보이며, 포화 관측, 로지스틱 회귀, 2계층 신경망 등 다양한 예시를 통해 실용성을 강조한다.

알고리즘은 θₖ₊₁ = θₖ − μₖ ∇f(ϕₖ,θₖ) ∇ₓL(yₖ₊₁,f(ϕₖ,θₖ)) 형태이며, μₖ는 μ rᵝ¹ₖ log β₂ rₖ + ‖∇f‖² 로 정의된 적응적 학습률이다. 여기서 rₖ는 누적 그래디언트 제곱합이며, β₁∈