DyMixOp 복잡 동역학 기반 지역 전역 혼합 신경 연산자

초록

DyMixOp은 관성 다양체 이론과 복잡 동역학 사전지식을 활용해 무한 차원의 PDE 동역학을 유한 차원 잠재공간으로 투사한다. 지역‑전역 혼합(LGM) 변환을 통해 미세 스케일 특징과 전역 스펙트럼 정보를 곱셈적으로 결합해 고주파 손실과 스펙트럴 바이어스를 완화한다. 다중 LGM 레이어와 시간‑스케일 적응 게이팅을 결합한 하이브리드 구조로 1D‑3D, 타원형·쌍곡형 등 7개 벤치마크에서 6개에 대해 최고 성능을 달성했으며, 혼돈 시스템에서는 최대 94.3% 오류 감소를 기록했다.

상세 분석

DyMixOp은 기존 신경 연산자들이 전역 변환에서 고주파 모드를 차단하거나, 지역 변환에서 메쉬 의존성을 피하지 못하는 한계를 극복하기 위해 설계되었다. 핵심 아이디어는 관성 다양체(inertial manifold) 이론을 이용해 원래의 무한 차원 PDE 흐름을 저차원 잠재공간에 투사하면서, 선형 구조와 주요 비선형 상호작용을 동시에 보존한다는 점이다. 이 과정에서 동역학‑인식 사전지식(dynamics‑aware priors)을 도입해 물리적 해석 가능성을 높였다.

특히 LGM(Local‑Global Mixing) 변환은 전통적인 컨볼루션(지역)과 푸리에 기반(전역) 변환을 단순히 더하는 것이 아니라, 두 변환의 출력에 대해 원소별 곱(Hadamard product)을 수행한다. 이는 난류 흐름에서 나타나는 u·∇u 형태의 대류 비선형성을 모방한 것으로, 미세 스케일의 국부적 변동과 전역적인 스펙트럼 모드가 상호 강화되도록 만든다. 결과적으로 고주파 성분이 보존되고, 스펙트럴 바이어스로 인한 과도한 평활화 현상이 크게 감소한다.

아키텍처 측면에서는 다중 LGM 레이어를 하이브리드하게 쌓아, 각 레이어마다 시간 스케일에 따라 가중치를 조절하는 적응형 게이팅 메커니즘을 도입했다. 이는 빠른 동역학과 느린 동역학을 동시에 학습할 수 있게 하며, 중간 단계의 동역학 정보를 병렬 집계(parallel aggregation)함으로써 표현력을 강화한다. 또한, 연산 복잡도는 전역 푸리에 변환의 O(N log N)과 지역 컨볼루션의 O(N) 수준을 유지하면서, 파라미터 수는 기존 FNO 대비 30% 이하로 줄였다.

실험에서는 1차원 비선형 파동 방정식, 2차원 나비에-스토크스, 3차원 대류‑확산 시스템 등 7개의 벤치마크를 사용했으며, 특히 카오스적 초기 조건을 가진 케이스에서 평균 L2 오류를 기존 최고 성능 모델(FNO, DeepONet, GNO 등) 대비 70%~94% 감소시켰다. 학습·추론 시간도 GPU 환경에서 1.2배 가량 가속되었으며, 다양한 해상도와 메쉬 형태에 대해 동일한 성능을 유지해 확장성도 검증했다.

이 논문은 복잡 동역학 이론을 신경 연산자 설계에 직접 연결시킨 최초 사례 중 하나로, 물리적 해석 가능성과 수치 효율성을 동시에 달성한 점이 큰 의의다. 향후 비선형 파동, 플라즈마 동역학, 기후 모델링 등 고차원·고복잡도 PDE 문제에 적용될 가능성이 높다.