리만 다양체 위 확률적 경사 하강법

본 논문은 비용 함수가 리만 다양체 위에 정의될 때, 확률적 경사 하강법(SGD)을 일반화한 알고리즘을 제시하고, 단계 크기 조건을 만족하면 거의 확실히(Almost Sure) 임계점으로 수렴함을 증명한다. 지수 사상과 재귀션(retraction) 두 가지 업데이트 방식을 다루며, 컴팩트한 다양체, 비양의 곡률을 갖는 공간 등 다양한 경우에 대한 수렴 정리를 제공한다. 또한 온라인 PCA, 하이퍼볼릭 평균, 양정밀 행렬 추정, 공분산 행렬 합의…

저자: Silvere Bonnabel