3차원 난류 시뮬레이션을 위한 물리 강화 스윈 트랜스포머

초록

PEST는 윈도우 기반 셀프‑어텐션을 활용한 3D Swin Transformer에 물리‑기반 손실을 결합한 모델이다. 주파수‑적응 스펙트럴 손실로 작은 스케일을 강조하고, Navier‑Stokes 잔차와 무발산 제약을 손실에 포함해 물리적 일관성을 확보한다. 실험 결과, 기존 데이터‑구동 방법들을 능가하는 정확도와 장기 안정성을 보인다.

상세 분석

본 논문은 3차원 난류 흐름을 고해상도에서 자동 회귀 방식으로 예측하기 위해, 공간적 지역성을 유지하면서도 연산 복잡도를 선형 수준으로 낮출 수 있는 Swin Transformer 구조를 핵심 백본으로 채택한다. 윈도우 크기 M³ 로 토큰을 나누고, 정규와 시프트된 윈도우를 교차 적용함으로써 인접 윈도우 간의 정보 흐름을 보장한다. 이러한 설계는 PDE의 국소 미분 연산과 자연스럽게 매핑돼, 작은 스케일의 물리적 상호작용을 효율적으로 학습한다.

다음으로, 저자는 Parseval 정리를 이용해 공간‑도메인 L2 손실을 정확히 주파수‑도메인 형태로 변환하고, 각 파수 대역에 적응적 가중치를 부여하는 스펙트럴 손실을 제안한다. 전통적인 L2 손실이 에너지‑집중적인 대규모 구조에 편향되는 문제를 해결하기 위해, 커리큘럼 방식으로 초기에는 저주파에, 학습이 진행될수록 고주파 가중치를 점진적으로 증가시킨다. 이는 작은 스케일의 소용돌이와 같은 고주파 현상의 재현을 촉진한다.

물리적 일관성 확보를 위해 Navier‑Stokes 방정식 잔차와 무발산(∇·u=0) 제약을 손실에 직접 포함한다. 잔차는 물리‑공간에서 자동 미분을 통해 계산되며, 이를 최소화함으로써 예측된 속도·압력 필드가 기본 보존 법칙을 위반하지 않도록 강제한다. 또한, 윈도우 경계에서 발생할 수 있는 불연속성을 완화하기 위해 그래디언트 매칭 L1 손실을 추가한다.

다중 손실의 스케일 차이를 자동으로 조정하기 위해, 논문은 불확실성 기반 가중치 업데이트 방식을 도입한다. 각 손실 항의 현재 평균 제곱 오차와 그 변동성을 추정해, 학습 초기에 물리 손실이 과도하게 지배되지 않도록 동적으로 가중치를 조정한다. 이 메커니즘은 데이터 손실과 물리 손실 사이의 균형을 유지하면서, 최적화 과정에서 발생할 수 있는 모드 붕괴를 방지한다.

실험에서는 전형적인 전이 흐름과 회전 난류 두 가지 벤치마크를 사용했으며, PEST는 9개의 최신 데이터‑구동 모델(FNO, TF‑Net, OFormer 등)을 모두 능가했다. 정량적 지표(예: 평균 제곱 오차, 스펙트럼 차이, 에너지 보존율)와 정성적 시각화 모두에서, PEST는 장기 자동 회귀 시뮬레이션에서도 안정적인 흐름 구조와 물리적 제약을 유지한다.