잠재 생성 솔버: 일반화 가능한 장기 물리 시뮬레이션

초록

본 논문은 다양한 PDE 시스템에 대해 장기 예측이 가능한 확률적 신경 솔버인 Latent Generative Solvers(LGS)를 제안한다. 고해상도 PDE 상태를 사전 학습된 VAE로 공유 잠재 물리 공간에 매핑하고, 변환기 기반 흐름 매칭으로 확률적 잠재 동역학을 학습한다. 입력에 가우시안 잡음을 섞는 ‘불확실성 노브’와 흐름 포싱을 통해 오프-매니폴드 드리프트를 교정하고, 70배 가량 연산량을 절감하면서도 장기 롤아웃 안정성을 크게 향상시킨다.

상세 분석

LGS는 두 단계로 구성된다. 첫 번째 단계에서는 사전 학습된 변분 오토인코더(P2V‑AE)를 이용해 128² 해상도의 다양한 PDE 상태를 고차원에서 저차원 잠재 벡터 x 로 압축한다. 이 과정에서 공간 해상도와 격자 형태가 제거되어, 서로 다른 물리 시스템이 동일한 잠재 공간에 매핑될 수 있다. 두 번째 단계에서는 변환기 기반 흐름 포싱 트랜스포머(FFT)를 사용해 xₜ → xₜ₊₁ 의 확률적 전이를 모델링한다. 핵심 메커니즘인 ‘불확실성 노브’ k 는 입력 잠재 x₀ 에 k·z ( z∼N(0,I) ) 를 혼합해 \tilde{x}k 를 만든 뒤, 이를 시작점으로 선형 보간 x{kt}= (1‑t)\tilde{x}_k + t x₁ 을 정의한다. 모델은 \tilde{x}_k 와 t , 그리고 물리 컨텍스트 c 를 조건으로 최종 상태 \hat{x}_1 을 예측하고, 흐름‑매칭 손실 L_FM = ‖\hat{x}_1‑x₁‖² 를 최소화한다. 학습 시 k>0 으로 잡음이 섞인 입력을 사용함으로써, 실제 롤아웃 시 발생하는 오프‑매니폴드 오류에 대한 복원 능력을 사전에 학습한다.

또한, 컨텍스트 c 는 \hat{x}_{t+1} 와의 게이트형 교차‑어텐션을 통해 순차적으로 업데이트된다(Flow Forcing). 이는 훈련 시와 테스트 시 모두 모델이 생성한 상태에 기반해 조건을 갱신하도록 하여, 전통적인 결정론적 연산자에서 흔히 나타나는 노출 편향(exposure bias)을 완화한다. 긴 시계열에 대한 연산 복잡도를 낮추기 위해 초기 단계에서는 평균‑풀링된 잠재 상태를 사용한 피라미드 구조(PFFT)를 도입, 시간‑차원 토큰 수를 감소시켰다.

이론적으로는, 결정론적 연산자는 L‑Lipschitz 특성에 따라 오류가 기하급수적으로 누적되는 반면, 흐름 매칭은 매 단계마다 새로운 잡음 k 와 흐름 v_θ 통합을 수행하므로 오류가 축적되지 않는다. 실험에서는 12가지 PDE 패밀리(총 2.5 M trajectory)에서 단기 성능은 기존 FNO·U‑AFNO 등과 동등하거나 약간 앞서며, 100 step 이상 장기 롤아웃에서는 평균 L2 오류가 30 % 이상 감소했다. FLOPs 측면에서는 잠재 공간에서 연산함으로써 비생성 기반 베이스라인 대비 ≈ 70× 의 효율성을 달성했고, 256² 해상도의 Kolmogorov 흐름에 대해 제한된 파인튜닝(≤ 5 % 파라미터)만으로도 경쟁력 있는 성능을 보였다.