보존량 보정으로 강화된 장기 자동회귀 신경연산자

초록

본 논문은 압축성 나비에-스토크스 방정식의 장기 예측에서 발생하는 자동회귀 오류와 물리량 보존 실패를 해결하기 위해 모델에 독립적인 보존량 보정 기법을 제안한다. 보존량 보정은 스칼라(밀도·에너지)와 벡터(운동량) 변수에 각각 적합한 스케일링·시프트 변환을 적용하여 예측 단계마다 총 보존량을 유지한다. FNO와 DPOT 두 가지 신경연산자에 적용한 실험 결과, 보정 전후의 롤아웃 안정성이 크게 향상되고, 고주파 성분 손실 문제도 확인하였다.

상세 분석

본 연구는 압축성 유동을 기술하는 나비에‑스토크스 방정식의 자동회귀 신경연산자(Auto‑regressive Neural Operator, AR‑NO) 모델이 장기 시뮬레이션에서 겪는 두 가지 근본적인 한계를 체계적으로 분석한다. 첫 번째는 시간에 따라 누적되는 작은 예측 오차가 기하급수적으로 확대되어 롤아웃이 발산하는 현상이며, 두 번째는 물리량(질량·운동량·에너지)의 보존 법칙이 위배되어 비물리적인 흐름이 발생한다는 점이다. 기존 연구는 주로 질량 보존에만 초점을 맞추었고, FNO와 PINO 같은 특정 아키텍처에 한정된 실험만을 수행했다.

논문은 이러한 문제를 해결하기 위해 ‘보존량 보정(Conserved Quantity Correction, CQC)’이라는 모델‑불변 기법을 도입한다. CQC는 예측된 스칼라 필드에 대해 전체 적분값을 이전 타임스텝의 적분값과 일치하도록 스케일링(크기 보정)하고, 벡터 필드(예: 운동량)에는 전체 적분값 차이를 보정값으로 더하는 시프트 보정(Shift Correction)을 적용한다. 이때 적분은 이산 텐서의 ℓ₁‑노름을 이용해 근사한다. 스칼라 보정은 양수 제약을 유지하면서도 전체 양을 보존하고, 벡터 보정은 부호를 보존하면서도 총량을 0으로 맞춘다.

아키텍처 측면에서는 두 가지 대표적인 신경연산자, Fourier Neural Operator(FNO)와 DPOT을 선택하였다. FNO는 전통적인 스펙트럼 컨볼루션을, DPOT은 Fourier‑Attention 기반의 변형을 사용한다. 두 모델 모두 입력 히스토리를 1~2 타임스텝으로 축소했으며, 이는 학습 효율성을 높이고 초기 동적 단계의 정보를 충분히 활용하게 한다. 또한, 내부 정규화와 최소값 클리핑(0 ~ 1e‑8)으로 물리적으로 불가능한 음수 값을 방지한다.

실험은 PDEBench에서 제공하는 2‑D 압축성 나비에‑스토크스 데이터셋(무점성, 마하수 0.1·1.0)을 사용하였다. 롤아웃 길이를 수백 타임스텝까지 연장했으며, 보정 전후의 L₂ 상대 오차, 보존량 변동, 그리고 스펙트럼 에너지 분포를 정량적으로 비교했다. 결과는 다음과 같다. (1) CQC 적용 시 전체 보존량 오차가 거의 0에 수렴하고, 특히 운동량 보정이 없는 경우 대비 3배 이상 오차 감소를 보였다. (2) 장기 롤아웃에서 평균 L₂ 오류가 20 %~35 % 감소했으며, 고주파 모드(> 0.3 π/Δx) 손실이 현저히 억제되었다. (3) FNO와 DPOT 모두 보정 효과가 일관되게 나타났으며, DPOT이 약간 높은 정확도를 보였지만 두 모델 모두 기존 방법 대비 안정성이 크게 향상되었다.

또한, 스펙트럼 분석을 통해 현재 아키텍처가 고주파 성분을 충분히 학습하지 못하는 구조적 한계를 확인했다. 이는 난류 흐름에서 에너지 카스케이드가 정확히 재현되지 못함을 의미한다. 논문은 향후 고주파 강조 설계(예: 멀티‑스케일 피라미드, 하이패스 필터링, 물리 기반 제약)를 통한 모델 개선 방향을 제시한다. 전반적으로 CQC는 아키텍처에 독립적인 사전·사후 처리 단계로 구현 가능하며, 기존 학습 파이프라인을 크게 변경하지 않고도 장기 시뮬레이션의 물리적 신뢰성을 높일 수 있는 실용적인 솔루션이다.