강제 유연 메쉬 연안·해양 모델을 위한 차원축소 대리모델 비교

초록

본 논문은 강제 외부 입력(기상·경계조건)을 포함한 연안·해양 모델에 Koopman 자동인코더(KAE)를 적용하고, 전통적인 POD 기반 대리모델과 성능을 체계적으로 비교한다. 30분 간격, 최대 1년 예측을 3개의 실제 해양 사례에 적용해, KAE‑Temporal‑Unrolling이 가장 낮은 RMSE(0.01‑0.13)와 높은 R²(0.65‑0.996)를 달성했으며, 물표면 고도 예측 오차는 수 센티미터 수준으로 물리 모델과 비교해 -0.65%~12% 차이만 보였다. 추론 속도는 300‑1400배 가속화돼 앙상블 예보와 장기 기후 시뮬레이션에 적합함을 보여준다.

상세 분석

이 연구는 연안·해양 수치모델의 고차원 상태와 외부 강제(풍향·풍속·기압·경계조건)를 저차원 잠재공간으로 압축하고, 그 잠재공간에서 선형 연산자를 학습하는 Koopman 자동인코더(KAE) 구조를 제안한다. 기존 POD 기반 대리모델은 SVD를 통해 고정된 선형 기저를 얻어 재구성 정확도는 높지만, 비선형 동역학을 선형 전파기에 매핑하는 과정에서 장기 예측 안정성이 떨어지는 한계가 있다. KAE는 인코더·디코더를 비선형 신경망으로 설계해 복잡한 지형·메시 변형을 효과적으로 표현하고, 학습 단계에서 선형 연산자 Cₓ를 직접 최소제곱 혹은 신경망으로 추정한다. 특히 강제 시스템에 대한 확장으로, 입력 데이터를 별도 인코더(Ψ_E)로 처리하고, 현재·다음 시점의 강제를 모두 활용해 M(·)에 전달함으로써 시간적 일관성을 강화한다.

안정성 확보를 위해 두 가지 정규화 전략을 도입한다. 첫째는 고유값 정규화(eigenvalue regularization)로, 잠재공간 연산자의 스펙트럼을 단위 원 안에 제한해 발산을 방지한다. 둘째는 Temporal Unrolling 기법으로, 다시간 스텝을 순차적으로 전파하면서 손실을 누적해 학습한다. 이는 단일 스텝 학습 시 발생하는 누적 오류를 사전에 최소화하고, 장기 예측 시의 drift를 크게 감소시킨다.

세 개의 테스트 케이스는 (1) 얕은 해안 베이, (2) 복합 조류와 풍동이 결합된 내륙 수로, (3) 대규모 조석·풍력 상호작용을 포함한 해안선 구역으로, 각각 동역학적 특성이 크게 다르다. 실험 결과, KAE‑Temporal‑Unrolling은 모든 경우에서 POD 대비 평균 RMSE를 30‑70% 감소시켰으며, 특히 전류 속도 예측에서 POD보다 0.02‑0.05 m/s 정도 개선되었다. 물표면 고도는 수 센티미터 수준의 오차로, 관측 데이터와 비교했을 때 -0.65%~12%의 오차 변동만을 보였다. 추론 시간은 GPU 기반 KAE가 0.02‑0.05초(30분 시뮬레이션) 수준으로, CPU 기반 POD는 5‑70초에 머물러 300‑1400배의 가속 효과를 확인했다.

이러한 결과는 KAE가 강제 입력을 명시적으로 다루면서도 선형 연산자를 통한 해석 가능성을 유지한다는 점에서, 운영적 연안·해양 예보 시스템에 적용 가능함을 시사한다. 다만, 현재는 강제 입력을 외부에서 완전히 제공받는 전제이며, 강제 자체를 예측하거나 불확실성을 모델링하는 확장은 추가 연구가 필요하다. 또한, 잠재공간 차원 선택과 고유값 정규화 파라미터 튜닝이 모델 성능에 민감하게 작용하므로, 현장 적용 시 자동화된 하이퍼파라미터 최적화가 요구된다.