비균등 확률을 활용한 최적 병렬 좌표 하강법

‘NSync는 각 반복에서 임의의 좌표 집합을 비균등하게 선택해 병렬로 업데이트하는 새로운 좌표 하강법이다. 강한 볼록성 가정 하에 수렴 속도를 분석하고, 집합 선택 확률을 최적화하여 이론적 복잡도를 최소화한다. 실험 결과, 최적 확률을 사용한 단일 좌표 업데이트가 전체 좌표를 동시에 업데이트하는 경우보다 적은 반복으로 목표 정확도에 도달할 수 있음을 보여준다.

저자: Peter Richtarik, Martin Takav{c}