위상학적 차폐와 엔트로피 정규화가 결합된 전역 반사실 추론 이론

본 논문은 연속적 생성 모델이 지역적 인과 메커니즘을 전역적인 반사실 분포로 자연스럽게 확장한다는 가정이 위상학적 비동형성(동형류) 존재 시 깨진다는 점을 증명한다. 구조적 인과 모델을 Wasserstein 공간 위의 셀룰러 셰이프로 정형화하고, 엔트로피 정규화를 도입한 엔트로픽 워셔스테인 인과 셰이프 라플라시안을 제안한다. 이를 통해 비선형 포커-플랑크 방정식 시스템을 유도하고, 엔트로픽 풀백 보조정리를 이용해 자동 미분을 O(1) 메모리로 …

저자: Rui Wu, Hong Xie, Yongjun Li

위상학적 차폐와 엔트로피 정규화가 결합된 전역 반사실 추론 이론
본 논문은 연속적 생성 모델이 지역적인 인과 메커니즘을 전역적인 반사실 분포로 자연스럽게 확장한다는 가정이 위상학적 비동형성, 즉 비자명한 1차 호몰로지가 존재할 경우 근본적으로 깨진다는 점을 이론적으로 증명한다. 이를 위해 저자들은 구조적 인과 모델(SCM)을 셀룰러 셰이프(cellular sheaf)로 정형화하고, 각 노드 v 에는 리만 다양체 M_v 를 할당해 그 위의 확률 측도 공간 P₂(M_v)를 stalk 로 정의한다. 엣지 (u→v) 에는 결정론적 인과 함수 Φ_uv 를 푸시포워드 연산자로 두고, 이를 Wasserstein 거리와 엔트로피 정규화된 Sinkhorn 발산으로 측정한다. 논문의 핵심은 두 가지 수학적 도구에 있다. 첫 번째는 엔트로픽 풀백 보조정리(entropic pullback lemma)이다. 정규화된 OT 비용 F_ε(μ)=½W₂,ε²(ν,T#μ) 의 첫 변분을 Sinkhorn 쌍대 포텐셜 g(ε) 를 통해 ∇(g(ε)∘T) 로 표현함으로써, 푸시포워드 연산의 기하학적 adjoint 를 정확히 계산한다. 이는 Otto 미분기하학과 결합해 Wasserstein 그래디언트 흐름을 정확히 구할 수 있게 한다. 두 번째는 이 변분 결과를 Implicit Function Theorem에 적용해 Sinkhorn 최적조건의 야코비안을 자동 미분(VJP)으로 O(1) 메모리 비용에 구현한다는 점이다. 따라서 역전파 시 반복 횟수와 무관하게 메모리 사용량이 일정하게 유지된다. 이론적 프레임워크 위에 제시된 엔트로픽 워셔스테인 인과 셰이프 라플라시안은 비선형 포커-플랑크 방정식 시스템으로, 각 노드 i 에 대해 ∂_t μ_i = ∇·

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기