몰리avin 미분을 활용한 확률적 역전파와 분산 최적 하이브리드 추정

초록

본 논문은 경로 재파라미터화(리파라미터라이제이션)와 점수 함수(리인포스) 방식의 그래디언트 추정이 모두 몰리avin 적분-부분 공식의 특수 경우임을 증명한다. 이를 기반으로 두 추정기의 공분산 구조를 이용해 최적 혼합 가중치 λ*를 실시간으로 추정하는 분산‑최적 하이브리드 추정기를 제안하고, 이론적 최소 분산 보장과 유한 표본 수렴 경계를 제공한다. 실험에서는 VAE(CIFAR‑10)에서 9%, 강하게 결합된 합성 문제에서 최대 35%의 분산 감소를 확인했으며, 정책 그라디언트 실험에서는 비정상적 최적화 지형에서의 한계도 논의한다.

상세 분석

논문은 먼저 확률적 최적화에서 핵심적인 두 그래디언트 추정법, 즉 연속형 변수에 대해 재파라미터화 기법을 이용하는 경로‑와이즈(pathwise) 추정과, 이산·비미분 가능 상황에서도 적용 가능한 점수 함수(score‑function, REINFORCE) 추정이 서로 완전히 별개의 방법이라고 여겨져 왔던 기존 관점을 뒤집는다. 저자는 이를 몰리avin 미분(D)과 스코로도 적분(δ) 사이의 이중성, 즉 적분‑부분(identity) E