리만 신경망 최적 수송

초록

본 논문은 기존 유클리드 전용 신경망 기반 최적 수송(OT) 방법을 리만 다양체에 확장하는 데 따른 차원의 저주(curse of dimensionality)를 이론적으로 증명하고, 이를 극복하기 위한 연속적인 신경망 파라미터화인 RNOT(Riemannian Neural OT) 프레임워크를 제안한다. RNOT은 c‑concave 잠재함수를 신경망으로 근사하고, 리만 지수맵을 통해 연속적인 전송 맵을 생성한다. 이론적으로 잠재함수 근사 정확도가 전송 맵의 정확도로 이어짐을 보이며, 파라미터 수와 깊이가 차원에 대해 다항식 수준으로 제한됨을 증명한다. 실험에서는 합성 및 실제 데이터셋에서 기존 이산화 기반 방법보다 뛰어난 확장성과 성능을 확인한다.

상세 분석

논문은 먼저 리만 다양체 ((M,g)) 위에서 정의되는 최적 수송 문제를 정리하고, 비용 함수 (c(x,y)=\frac12 d(x,y)^2)에 대해 최적 전송 맵 (T^\star)가 c‑concave 잠재함수 (\varphi)의 지수맵 형태 (T^\star(x)=\exp_x(-\nabla\varphi(x))) 로 표현된다는 고전 결과를 활용한다. 기존의 RCPM(Riemannian Convex Potential Maps)과 같은 이산화 방법은 잠재함수를 유한개의 템플릿 거리 함수의 최소값으로 근사하므로, 전송 맵이 유한개의 목표점만을 출력한다. 저자들은 이를 일반화하여 “이산 출력 맵” 클래스 (D_m(\mu))를 정의하고, 정리 3.1을 통해 (\mu,\nu)가 볼륨에 절대연속일 때 RMSE 오차가 (C m^{-1/p}) 이하가 되려면 (m)이 차원 (p)에 대해 지수적으로 커야 함을 증명한다. 이는 차원의 저주가 이산화 기반 접근법에 내재된 한계임을 수학적으로 확립한다.

이러한 부정적 결과를 극복하기 위해 저자들은 연속적인 파라미터화인 RNOT을 제안한다. 핵심 아이디어는 두 단계로 구성된다. 첫째, 임베딩 (\phi:M\to\mathbb{R}^n) (예: 거리‑랜드마크 임베딩)를 이용해 연속 함수 공간 (C(M,\mathbb{R}))를 (\phi^\ast\mathcal{F}={f\circ\phi:f\in\mathcal{F}}) 로 끌어올린다. 여기서 (\mathcal{F})는 유니버설 근사성을 갖는 신경망 클래스이며, (\phi)는 연속·전단사(injective)라 가정한다. 둘째, 잠재함수 후보를 (\psi\in\phi^\ast\mathcal{F}) 로 두고, 자동으로 c‑concave 속성을 부여하기 위해 c‑transform (\psi^c)를 취한다. 즉, 최종 잠재함수는 (\varphi=\psi^c)이며, 이는 명시적 제약 없이 구조적 제약을 만족한다.

정리 4.1(보편성)은 (\varphi)를 위와 같이 근사하면 (\varphi)가 실제 최적 잠재함수에 균등하게 수렴하고, 따라서 생성된 전송 맵 (T(x)=\exp_x(-\nabla\varphi(x)))가 (T^\star)에 점wise로 수렴함을 보인다. 이어서 신경망의 파라미터 수 (W)와 깊이 (L)에 대한 구체적 상한을 도출한다. 저자는 기존의 차원‑의존적 하한 (W\sim\exp(p)) 대신, (\varepsilon) 정확도를 달성하기 위해 (W=O(\varepsilon^{-k})), (L=O(\log\varepsilon^{-1})) 정도의 다항식 복잡도만 필요함을 증명한다. 이는 최근의 기하학적 딥러닝 근사 이론(Kratsios & Papon, 2022)을 리만 OT에 적용한 결과이며, 특히 “연속 근사”와 “깊이‑불연속” 두 가지 모드 모두에서 차원에 대한 지수적 폭발을 회피한다는 점이 혁신적이다.

실험 부분에서는 구면 (S^2), 토러스 (T^2) 등 저차원 리만 다양체와, 고차원 실험으로는 회전군 (SO(3))와 같은 리만 매니폴드에 대한 합성 데이터와 실제 이미지(예: 구면 이미지, 3D 포즈 데이터)를 사용한다. RNOT은 기존 RCPM 및 메쉬 기반 OT와 비교해 동일한 정확도에서 파라미터 수가 10배 이상 적으며, 특히 차원이 5 이상일 때 학습 시간과 메모리 사용량이 현저히 낮다. 또한, 샘플링 단계에서 연속적인 전송 맵을 직접 이용하므로, 훈련 후 새로운 입력에 대한 즉시 생성이 가능해 실제 생성 모델 파이프라인에 적합함을 보여준다.

결론적으로, 논문은 (1) 이산화 기반 리만 OT가 차원의 저주에 빠진다는 이론적 한계, (2) c‑transform을 이용한 연속 신경망 파라미터화가 이 한계를 극복하고 다항식 복잡도로 최적 전송 맵을 근사할 수 있다는 두 가지 주요 기여를 제시한다. 이는 리만 다양체 위에서의 생성 모델링, 도메인 적응, 그리고 물리 기반 시뮬레이션 등 다양한 분야에 새로운 도구를 제공한다.