복소 변분 자동인코더의 카흐레 구조와 피셔 메트릭

초록

본 논문은 복소 잠재 변수를 갖는 변분 자동인코더(VAE)가 카흐레 기하구조를 내재한다는 이론을 제시한다. 복소 가우시안 잠재분포에 대한 피셔 정보 메트릭을 유도하고, 이를 KL 발산의 헤시안과 동일시함으로써 카흐레 포텐셜을 정의한다. 또한, 로그‑우도 합을 이용한 근사 포텐셜을 제안해 자동미분 비용을 크게 감소시키고, 복소 볼륨 요소에 기반한 샘플링 및 디코더 기하학 기반 정규화를 통해 보다 매끄러운 잠재 표현과 아웃라이어 감소 효과를 실험적으로 확인한다.

상세 분석

논문은 먼저 기존 유클리드 VAE에서 피셔 정보 메트릭이 잠재공간에 리만 구조를 부여한다는 사실을 복소 버전으로 확장한다. 복소 가우시안 ( \mathcal{CN}(\mu(z),\Sigma(z)) ) 를 가정하고, Wirtinger 미분을 이용해 로그우도 (\log p(x|z)) 의 복소 헤시안을 계산한다. 결과적으로 얻은 피셔 메트릭
\