진보적 다중정밀도 신경망으로 물리 시스템 예측 혁신

초록

고정밀 데이터는 비용이 많이 들고 획득이 어려운 반면, 저정밀 데이터는 저렴하고 다양하게 얻을 수 있다. 본 논문은 서로 다른 모달리티와 정밀도를 가진 데이터를 순차적으로 통합할 수 있는 ‘진보적 다중정밀도 서러게이트 모델’을 제안한다. 각 정밀도 레벨마다 맞춤형 인코더로 특징을 추출하고, 모든 레벨의 잠재 표현을 연결(concatenation)한 뒤 디코더가 고정밀 목표값을 예측한다. 출력은 이전 레벨의 결과에 additive(덧셈) 형태로 보정해 나가며, 이는 새로운 입력이 추가돼도 기존 성능이 손상되지 않도록 한다. 실험에서는 반응‑확산, Navier‑Stokes, 대기오염 3가지 사례에서 저정밀 데이터만으로도 높은 정확도를 달성하고, 시간·파라미터 변동에도 강인함을 보였다.

상세 분석

본 연구는 물리 기반 시뮬레이션이나 실험 데이터에서 고정밀 데이터가 제한적인 상황을 해결하기 위해 다중정밀도 학습 프레임워크를 설계하였다. 핵심 아이디어는 ‘진보적(Progressive)’ 구조를 도입해 낮은 정밀도의 입력을 순차적으로 고정밀 레벨에 전달하면서, 각 레벨이 이전 레벨의 예측값에 덧셈 형태로 보정(additive correction)하도록 하는 것이다. 이를 위해 저정밀 데이터마다 특화된 인코더(Feed‑Forward, LSTM, CNN, Vision Transformer 등)를 사용해 고차원 원시 데이터를 저차원 잠재 벡터 h(l)로 변환한다. 모든 레벨의 h(l)은 차원 d_h^tot 로 연결(concatenation)되어 하나의 디코더 Ψ(l)로 전달되며, 디코더는 동일한 아키텍처를 유지하면서 고정밀 목표 y를 회귀한다.

출력 단계에서는 ˆy(0)=Ψ(0)(h(0)) 로 시작해, l>0일 경우 ˆy(l)=ˆy(l‑1)+Ψ(l)(h_tot(l)) 로 정의한다. 이 additive 방식은 두 가지 중요한 효과를 만든다. 첫째, 각 레벨이 ‘잔차(residual)’를 학습함으로써 고정밀 데이터가 부족한 경우에도 저정밀 데이터가 제공하는 전반적인 구조 정보를 유지한다. 둘째, 이전 레벨의 파라미터를 고정(freeze)하고 새로운 레벨만 학습함으로써 catastrophic forgetting을 방지한다. 즉, 모델이 새로운 입력을 받아도 기존에 학습된 저정밀 레벨의 지식이 손상되지 않는다.

학습은 레벨별로 순차적으로 진행되며, 각 레벨에서 손실 함수는 MSE와 L2 정규화 항을 포함한다. Adam 옵티마이저를 사용해 역전파가 수행되며, 레벨 l의 파라미터만 업데이트하고 이전 레벨 파라미터는 고정한다. 이 설계는 온라인 배포 시에도 유연성을 제공한다. 고정밀 입력이 없을 경우 낮은 레벨만 사용해 추론이 가능하고, 고정밀 입력이 추가되면 자동으로 더 높은 레벨의 보정이 적용된다.

실험에서는 (1) 반응‑확산 시스템에서 저해상도 시뮬레이션과 잡음이 섞인 데이터로부터 고해상도 나선 파동을 복원, (2) Navier‑Stokes 흐름에서 드래그·리프트 계수, 출구 센서, 부분 영역 스냅샷 등 다양한 저정밀 입력을 결합해 와류 shedding을 재구성, (3) 실제 대기오염 사례에서 저가 센서 데이터와 결측·노이즈를 포함한 상황에서도 벤젠 농도를 정확히 예측하였다. 모든 사례에서 기존 다중정밀도 GP나 단일‑정밀도 딥러닝 대비 RMSE·MAE가 현저히 낮았으며, 시간·파라미터 외삽에서도 안정적인 성능을 유지했다.

이 접근법의 강점은 (i) 다양한 모달리티와 정밀도 레벨을 하나의 통합 프레임워크에 자연스럽게 매핑, (ii) 레벨 간 additive 연결을 통한 정보 보존 및 잔차 학습, (iii) 순차적 학습으로 catastrophic forgetting 방지, (iv) 온라인 추론 시 입력 가용성에 따라 자동으로 모델 복잡도 조절이 가능하다는 점이다. 한계로는 레벨 수가 많아질 경우 잠재 표현의 차원이 급증해 메모리·연산 비용이 증가할 수 있으며, 인코더·디코더 설계가 도메인에 따라 별도 튜닝이 필요하다는 점이다. 향후 연구에서는 차원 축소 기법과 가변형 인코더 공유 구조를 도입해 효율성을 높이고, 물리 기반 제약을 결합한 하이브리드 모델로 확장할 여지가 있다.