볼츠만 분포를 위한 한 단계 샘플러 드리프팅 기반
본 논문은 에너지 함수로 정의된 볼츠만 분포를 한 번의 신경망 전파만으로 샘플링하기 위한 새로운 프레임워크를 제안한다. Gaussian‑스무딩된 스코어 필드를 이용해 현재 모델 분포와 목표 분포 사이의 드리프트(이동 벡터)를 계산하고, 이를 정지‑그래디언트(stop‑gradient) 형태의 손실로 최소화함으로써 제네레이터를 학습한다. 목표 측면 드리프트는 스무딩된 에너지의 그라디언트로 표현되며, 로컬 중요도 샘플링 평균‑시프트와 2차 곡률 보정…
저자: Wenhan Cao, Keyu Yan, Lin Zhao
본 논문은 에너지 함수 E(x) 로 정의되는 볼츠만 분포 p(x)=Z⁻¹exp(−E(x)) 를, 정규화 상수 Z 를 알 수 없는 상황에서도 효율적으로 샘플링하기 위한 새로운 프레임워크를 제안한다. 기존의 Langevin dynamics, Hamiltonian Monte Carlo 등은 반복적인 MCMC 절차가 필요해 테스트 시 계산 비용이 크게 증가한다. 이를 극복하고자 저자들은 ‘드리프팅(Drifting)’이라는 개념을 도입한다. 드리프팅은 현재 제네레이터 f_θ가 만든 분포 q_θ와 목표 p 사이에 이동 벡터 V_{p,q}(x)를 정의하고, 이 벡터를 최소화하도록 제네레이터를 학습하는 방법이다.
드리프팅 벡터는 V_{p,q}(x)=η
원본 논문
고화질 논문을 불러오는 중입니다...
댓글 및 학술 토론
Loading comments...
의견 남기기