비동기 탄성 결합을 이용한 확률적 경사 하이브리드 MCMC

본 논문은 대규모 머신러닝 모델의 베이지안 추론을 위해 **비동기적 병렬 MCMC**를 구현하는 새로운 방법을 제시한다. 먼저, 베이지안 posterior p(θ|D)∝exp(−U(θ))를 정의하고, 이를 탐색하기 위해 **확률적 경사 하이브리드 마코프 체인 몬테카를로(SGHMC)**를 사용한다. SGHMC는 Hamiltonian H(z)=U(θ)+pᵀM⁻¹p에 기반한 연속 동역학을 시뮬레이션하며, 스토캐스틱 그라디언트와 추가 노이즈를 통해 대규모 데이터에서도 효율적인 샘플링을 가능하게 한다. 다중 머신(K)에서 SGHMC를 병렬화하려는 두 가지 전통적 접근법을 검토한다. **방법 I(naive parallelization)**는 파라미터 θ를 서버에서 모든 워커에 전파하고, 각 워커가 스테일 파라미터 ˜θ_k를 사용해 그라디언트를 계산한다. 서버는 O개의 그라디언트를 모아 평균을 내어 업데이트한다. 이 방식은 s=1, O=K일 때 동기식이 되지만, 통신 지연이 큰 환경에서는 큰 오버헤드가 발생한다. **방법 II(독립 체인)**는 각 워커가 완전히 독립적인 SGHMC 체인을 실행한다. 이 경우 정확한 stationary distribution을 보장하지만, 체인 간 상호작용이 없으므로 개별 체인의 수렴 속도는 개선되지 않는다. 이 두 방법의 한계를 극복하고자, 저자들은 **탄성 결합(elastic coupling)**이라는 새로운 스키마를 제안한다. K개의 체인 각각은 파라미터 θ_i와 모멘텀 p_i를 가지고, 전역 중심 변수 c와 그 모멘텀 r에 스프링 상수 α로 연결된다. 전체 해밀토니안은 다음과 같이 정의된다. H(z)=∑_{i=1}^K