온라인 학습을 활용한 이상적 해양 회오리 흐름의 난류 파라미터화

초록

본 연구는 바람에 의해 구동되는 고전적인 Stommel‑Munk 이중 회오리 모델에 자동미분 가능한 수치 해석기와 신경망을 결합한 온라인 학습 프레임워크를 적용한다. 고해상도 시뮬레이션을 기준 데이터로 사용해 65×65 격자 수준의 저해상도 모델에 누락된 에디 항을 신경망으로 보강한다. 학습된 신경망은 모델을 안정적으로 유지하면서 평균 흐름과 고유 변동성을 재현하고, 저해상도에서도 제한적인 와류를 생성한다. 결과는 온라인 학습이 해양 난류 파라미터화에 유망한 도구임을 시사한다.

상세 분석

이 논문은 전통적인 물리 기반 파라미터화와 달리, 데이터 기반 접근법을 실시간으로 수치 모델에 통합하는 ‘온라인 학습’ 방식을 제시한다. 핵심은 JAX와 Keras를 이용해 바람 강제 Stommel‑Munk 방정식을 완전 자동미분 가능하게 구현하고, 신경망 Fθ를 추가 항으로 삽입해 전체 시스템을 하나의 역전파 가능한 그래프로 만든 점이다. 이렇게 하면 손실 함수(Loss)를 모델 출력(시간 전개된 흐름)과 고해상도 레퍼런스 데이터 간 차이로 정의하고, 그라디언트를 직접 계산해 신경망 파라미터를 최적화할 수 있다.

수치 실험에서는 2049×2049 격자(≈2 km 해상도)로 고해상도 시뮬레이션을 수행해 12년 스핀업 후 12년 데이터를 수집한다. 이후 Gaussian 필터(σ = 62.5 km)와 다운샘플링을 통해 65×65 격자(≈62.5 km) 저해상도 데이터를 만든다. 저해상도 모델에선 라플라시안 점성 ν = 10 m² s⁻¹와 선형 저항 r = 10⁻⁷ s⁻¹를 유지하면서, 신경망 입력을 비차원화(α_input = 1/|β|L)하고 출력은 응력 강도(α_output)로 스케일링한다. 시간 적분은 Crank‑Nicolson + Adams‑Bashforth 2차(CNAB2) 스킴을 사용해 선형 항은 암시적, 비선형·신경망 항은 명시적으로 처리한다.

학습 과정은 단일 GPU에서 싱글 프리시전으로 수행되며, 자동미분을 통한 역전파 비용이 크게 증가하지만, JAX의 XLA 컴파일러 덕분에 효율적인 실행이 가능했다. 결과적으로 학습된 신경망은 저해상도 모델을 안정적으로 유지하면서, 평균 스트림 함수와 와류 구조를 고해상도와 유사하게 재현한다. 특히, 저해상도에서도 제한적인 고립 와류가 스스로 생성되는 현상이 관찰되었으며, 이는 신경망이 에너지 백스캐터링을 암묵적으로 학습했음을 암시한다.

일반화 테스트에서는 훈련에 사용되지 않은 바람 강도와 점성 파라미터 조합에 대해 모델을 적용했을 때, 평균 흐름과 변동성 재현 능력이 어느 정도 유지되었지만, 파라미터 변화가 크면 성능이 급격히 저하되는 한계가 드러났다. 이는 현재 사용된 깊은 합성곱 신경망(다중 필터, 작은 깊이)이 문제 특화형 구조이기 때문이며, 보다 일반적인 파라미터화 스킴을 위해서는 더 복잡한 아키텍처나 물리 제약을 포함한 학습이 필요함을 시사한다.

전반적으로 이 연구는 (1) 완전 자동미분 가능한 해양 모델 구현, (2) 신경망 기반 에디 항을 온라인으로 학습·적용, (3) 저해상도에서도 평균·변동성을 유지하는 파라미터화 성공이라는 세 가지 주요 기여를 제공한다. 또한, 온라인 학습이 오프라인 방식에서 발생하던 안정성 문제를 손실 함수에 직접 반영함으로써 자연스럽게 해결한다는 점에서, 향후 고해상도·저해상도 혼합 모델링, 다중 스케일 시뮬레이션 등에 적용 가능성이 높다.