제약 생성 모델을 위한 매니폴드 인식 교란

초록

본 논문은 등식 제약으로 정의된 저차원 매니폴드 위에 존재하는 데이터 분포를, 매니폴드의 법선 방향으로만 가우시안 노이즈를 추가해 전역 차원을 확장한 뒤, 무제약 생성 모델을 학습하고 샘플을 매니폴드에 다시 투사하는 방법을 제안한다. 선형 제약에서는 완전 복원을 보장하고, 비선형 경우에도 총변동 거리(TV)가 지수적으로 감소함을 이론적으로 증명한다. 실험에서는 확산 모델과 정규화 흐름(NF) 모두에서 샘플 품질·학습 안정성이 크게 향상됨을 확인한다.

상세 분석

이 논문은 과학·공학 분야에서 흔히 마주치는 “데이터가 물리적 제약 h(x)=0 에 의해 저차원 매니폴드 M 위에 존재한다”는 상황을 정확히 짚어낸다. 기존의 확산 모델(DDPM, SBDM)이나 정규화 흐름(NF)은 목표 분포 p₀ 와 잠재 분포 p_T 가 동일 차원을 가져야 한다는 전제 하에 설계되었으며, 매니폴드 위에 국한된 p₀ 는 레베그 측도에 대해 특이(singular)해 Jacobian det 가 0이 되거나 스코어가 폭발하는 등 수치적 불안정을 초래한다. 저자들은 이러한 근본적 문제를 “매니폴드‑인식 교란(Manifold‑Aware Perturbation)”이라는 간단하면서도 이론적으로 견고한 변형으로 해결한다. 핵심 아이디어는 각 데이터 포인트 z∈M 에 대해 그 점의 법선 공간 N_zM 에만 가우시안 노이즈 N∼𝒩(0,σ²I) 를 추가해 X=z+N 을 만든 뒤, 전체 데이터 집합을 p_σ 라는 d‑차원 분포로 변환한다는 것이다. 법선 방향으로만 교란함으로써 (1) p_σ 는 전역 차원을 확보해 Jacobian det 가 0이 되지 않으며, (2) p_σ 를 무제약 생성 모델에 그대로 학습시킬 수 있다. 학습이 끝난 뒤에는 생성된 샘플 x̂ 를 최근접점 투사 Π(x̂)=arg min_{z∈M}‖x̂−z‖ 을 통해 원래 매니폴드 M 으로 되돌린다.

이론적 기여는 세 가지로 요약된다. 첫째, 정의 3.1에 의해 구성된 p_σ 는 “튜불라 분포(tubular distribution)”로, 매니폴드 주변의 모든 법선 섬유를 포함해 d‑차원 지원을 갖는다(정리 4.3). 둘째, 제약이 선형일 경우(정리 4.5) Π(p_σ)=p₀ 가 정확히 성립해 완전 복원을 보장한다. 이는 기존의 등방성(noise) 교란이 동일한 선형 매니폴드에서도 투사 후 왜곡을 일으키는 것과 대조된다. 셋째, 비선형 매니폴드에 대해서는 총변동 거리(TV) 상한을 TV(Π#p_σ, p₀) ≤ C₁ exp(−C₂ r²/σ²) (정리 4.6) 형태로 제시한다. 여기서 r 은 매니폴드의 “리치(reach)”, 즉 곡률에 대한 역수이며, σ < reach 이면 지수적 수렴을 보장한다. 또한 지역 리치를 이용한 정리 4.7은 곡률이 큰 부분에서도 σ가 충분히 작으면 왜곡이 제한적임을 보여준다.

실험에서는 (i) 3‑차원 평면·구·메시, (ii) 784‑차원 MNIST 이미지, (iii) 90‑차원 단백질 백본 데이터를 대상으로 확산 모델과 RealNVP·Glow 기반 NF를 적용했다. 평면 실험에서는 선형 제약이므로 p_σ 를 학습한 DDPM이 투사 후 원본 분포와 거의 동일한 JSD·TV를 기록했으며, 기존의 등방성 노이즈를 사용한 경우는 왜곡이 크게 나타났다. 구와 복잡한 메시는 비선형이지만, σ를 매니폴드 리치보다 작게 설정했을 때 TV가 0.04 수준으로 억제되었다. NF 실험에서는 Jacobian log‑det 값이 정상 범위(≈0)로 유지돼 학습이 안정적이었고, 샘플링 속도도 기존 방법과 비교해 크게 감소하지 않았다. 단백질 백본 실험에서는 물리적 결합각 제약을 매니폴드로 모델링했으며, 제안 방법이 구조적 일관성을 유지하면서도 높은 FID 점수를 달성했다.

전체적으로 이 논문은 “제약을 무시하고 학습한 뒤 사후 투사”라는 전통적 접근을 “제약을 반영한 교란”으로 바꾸어, 수학적 보증과 실험적 검증을 동시에 제공한다. 구현 복잡도는 법선 공간을 구하는 정도로 매우 낮으며, 기존의 확산·NF 파이프라인에 그대로 적용 가능하다는 점에서 실용성이 높다. 특히 과학·공학 시뮬레이션, 물리 기반 디자인, 단백질 구조 예측 등 제약이 필수적인 도메인에 바로 활용될 수 있을 것으로 기대된다.