피셔 라오 흐름의 지오데식 볼록성 및 함수 불평등 연구

초록

본 논문은 확률밀도 함수의 피셔‑라오(metric) 기하학 하에서의 gradient flow를 분석한다. KL·f‑다이버전스와 같은 에너지 함수를 이용해 비국소 미분방정식 형태의 흐름을 정의하고, 기존 와서슈테인(Wasserstein) 흐름에서 사용되는 로그‑소보레프 불평등과 달리, 목표분포의 로그‑소보레프 상수에 의존하지 않는 새로운 함수 불평등을 제시한다. 이를 통해 일반적인 목표분포에 대해 균일한 지수 수렴률을 확보한다. 또한 f‑다이버전스 전반에 걸친 지오데식 볼록성 조건과 gradient dominance 조건을 완전히 규명하고, KL 다이버전스에 대한 새로운 이중형(dual) 불평등을 도입한다.

상세 분석

이 논문은 확률밀도 함수의 동역학을 두 가지 주요 기하학적 프레임워크, 즉 와서슈테인(Wasserstein) 메트릭과 피셔‑라오(Fisher‑Rao) 메트릭을 비교하면서 시작한다. 와서슈테인 경우, KL 다이버전스는 해당 메트릭의 gradient flow가 되며, 로그‑소보레프 불평등이 gradient dominance 조건을 보장해 지수적 수렴률을 제공한다. 그러나 이 불평등은 목표분포 ρ*의 로그‑소보레프 상수 α에 의존하므로, 비대칭·다중모드 분포에서는 수렴이 느려질 위험이 있다.

피셔‑라오 메트릭은 g_FR_ρ(σ₁,σ₂)=∫σ₁σ₂ρ dθ 로 정의되며, 이는 Hellinger 거리의 구면 버전으로 해석된다. 이 메트릭 하에서 KL 다이버전스의 gradient flow는
∂ₜρₜ = -ρₜ