Fourier 신경 연산자(FNO)의 약점 진단: 다양한 PDE에서의 스트레스 테스트

초록

본 논문은 비선형 슈뢰딩거, 포아송, 나비에–스토크스, 블랙–숄즈, 쿠라모토–시바시니키스 등 다섯 종류의 PDE에 대해 Fourier Neural Operator(FNO)를 1,000개 모델로 학습하고, 파라미터 변동, 경계·터미널 조건 변화, 해상도 외삽, 장기 롤아웃, 입력 섭동 등 5가지 스트레스 테스트를 수행한다. 결과는 파라미터·경계 변화 시 오류가 10배 이상 증가하고, 해상도 확대 시 고주파 모드에 오류가 집중되는 등 전형적인 스펙트럴 바이어스와 누적 적분 오류가 드러난다. 이러한 실패 모드 지도는 연산자 학습의 견고성 향상을 위한 설계 지침을 제공한다.

상세 분석

본 연구는 FNO가 기존 인‑분포 평가에서는 높은 정확도를 보이지만, 실제 과학·공학 응용에서 마주치는 분포 이동에 취약함을 체계적으로 규명한다. 먼저, 파라미터·계수 이동 실험에서 비선형 슈뢰딩거(NLS)의 비선형성 κ를 훈련 범위 밖으로 확대하면 평균 오류가 약 3.9배 증가한다. 이는 FNO가 입력 파라미터를 명시적으로 받더라도, 고강도 비선형 상호작용에 의해 발생하는 미세 위상 회전과 고주파 간섭 패턴을 학습하지 못함을 의미한다. 포아송 방정식에서는 계수장 a(x)의 거칠기를 증가시켰을 때, 경계 조건에 대한 민감도가 급격히 상승해 오류가 10배 이상 확대된다. 이는 전역적인 경계 제약을 정확히 반영하기 위해서는 더 넓은 스펙트럼 대역을 포괄해야 함을 시사한다.

다음으로, 해상도 외삽 실험에서는 모든 PDE에서 평균 오류 증가는 미미했지만(예: NLS에서 D≈1.01), 오류의 스펙트럼 분포를 분석하면 고주파 성분에 오류 에너지가 집중된다. 이는 FNO가 훈련 시 사용한 16개의 주파수 모드에 제한된 대역폭을 학습하고, 미세 해상도에서 새로운 고주파 정보를 생성하지 못한다는 전형적인 스펙트럴 바이어스 현상이다.

시간 의존 PDE(NLS, K‑S, 나비에–스토크스)에서는 장기 롤아웃 테스트를 통해 누적 적분 오류가 급격히 확대된다. 단일 스텝 L2 오류가 2% 수준이더라도, 50스텝 이상 반복 시 오류 비율이 5~8배로 상승한다. 이는 동역학적 불안정성(특히 K‑S의 혼돈성)과 모델이 학습한 연산자의 선형 근사성 때문에 발생한다.

입력 섭동 민감도 실험에서는 대부분의 경우 오류 비율이 1에 가까워 모델이 입력에 대해 리프시츠 연속성을 유지함을 보여준다. 그러나 포아송 방정식의 국소화된 섭동(예: 급격한 계수 변동)에서는 오류가 2배 이상 증가해, 국소적인 고주파 변동에 대한 취약성을 드러낸다.

전반적으로, 파라미터·경계 이동이 가장 큰 오류 증폭을 일으키며, 해상도 확대는 고주파 오류에 국한된다. 이러한 결과는 FNO 설계 시 다중 스케일 표현, 고주파 보강, 파라미터 범위 확장 학습, 그리고 물리 기반 안정성 제약(예: 에너지 보존) 도입이 필요함을 강력히 시사한다.