시간변화 유향 그래프 위의 분산 가우시안 학습

본 논문은 가우시안 잡음이 섞인 파라미터 추정을 위해, 평균과 정밀도(precision)만을 업데이트하는 명시적 분산 비베이즈 학습 알고리즘을 제안한다. 시간에 따라 변하는 유향 그래프에서도 모든 에이전트가 거의 확실히(optimal) 파라미터에 수렴함을 증명하고, 수렴 속도는 O(1/k)임을 보여준다.

저자: Angelia Nedic, Alex Olshevsky, Cesar A. Uribe

시간변화 유향 그래프 위의 분산 가우시안 학습
본 논문은 분산 비베이즈 학습 분야에서 가우시안 파라미터 추정 문제를 다루며, 시간에 따라 변하는 유향 그래프 구조에서도 모든 에이전트가 최적 파라미터에 수렴하도록 설계된 알고리즘을 제시한다. 1. **문제 설정 및 배경** - n개의 에이전트가 각각 미지 파라미터 θ_i에 대한 가우시안 잡음이 섞인 관측값 S_{ik}=θ_i+ε_i (ε_i∼N(0,σ_i^2))를 수집한다. - 목표는 전체 네트워크가 공동으로 θ* = (∑_i θ_i/σ_i^2)/(∑_i 1/σ_i^2) 를 추정하는 것이다. 이는 Kullback‑Leibler 발산 최소화 문제(1)·(3)와 동등하다. - 각 에이전트는 자신의 관측과 이웃으로부터 받은 신념을 교환하며, 그래프 G_k=(V,E_k)는 매 시간 단계마다 달라질 수 있는 유향 그래프이다. 2. **알고리즘 설계** - 신념은 가우시안 형태를 유지하도록 설계되며, 평균 μ_i(k)와 정밀도 τ_i(k)=1/σ_i^2만을 추적한다. - 업데이트 식은 두 부분으로 나뉜다. - (5a) 정밀도 업데이트: τ_i(k+1)=∑_j A_k

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기