![[한글 번역 중] An introduction to decentralized stochastic optimization with gradient tracking](https://koineu.com/posts/2019/11/2019-11-14-126650-an_introduction_to_decentralized_stochastic_optimi/MW.png)
[한글 번역 중] An introduction to decentralized stochastic optimization with gradient tracking
분산 최소화에 대한 분산해법은 신호 처리, 제어 및 머신 러닝 애플리케이션에서 중요한 역할을 합니다. 이러한 환경에서는 데이터가 임의로 연결된 노드 네트워크에 분포되어 있고 원시 데이터 공유는 통신이나 프라이버시 제약으로 인해 불가능한 경우가 많습니다. 본 논문에서는 분산 확률적 1차 최적화 방법을 검토하고, 최근의 개선 사항인 그래디언트 추적 및 변동 감소 기반의 개선사항에 대해 설명합니다. 특히 매끄럽고 강하게 볼록한 목적 함수에 초점을 맞추었습니다. 주요 기술적인 아이디어와 분산 머신 러닝 모델 학습에서 이러한 알고리즘의 적용 사례를 직관적으로 설명하였습니다.
paper
AI 요약
