불규칙 시간 간격 고차원 동역학 예측을 위한 물리‑시공간 마스크 오토인코더

본 논문은 고차원 물리 필드(예: 유체 속도, 온도, 농도 등)를 불규칙한 시간 간격으로 관측하거나 시뮬레이션할 때 발생하는 예측 정확도 저하 문제를 해결하고자 한다. 기존의 딥러닝 기반 시계열 모델은 정규 시간 격자를 전제로 설계돼, 누락된 시점에 대해 보간·재샘플링을 수행해야 했으며, 이는 데이터 편향과 계산 비용을 증가시켰다. 또한, Neural ODE와 같은 연속시간 모델은 강성(stiffness) 문제와 고차원 PDE 시스템에서의 수치 불안정성으로 실용성이 떨어졌다. 이에 저자들은 “Physics‑Spatiotemporal Masked Autoencoder”(P‑STMAE)라는 새로운 프레임워크를 제안한다. P‑STMAE는 크게 두 부분으로 나뉜다. 첫 번째는 공간 차원 압축을 담당하는 Convolutional Autoencoder(CAE)이다. 입력 물리 상태 xₜ ∈ ℝ^{d_x}를 인코더 f_E 를 통해 잠재 벡터 zₜ ∈ ℝ^{d_z} (d_z ≪ d_x) 로 변환하고, 디코더 f_D 를 통해 다시 복원한다. 이 과정은 고차원 텐서의 공간 구조를 보존하면서 차원을 크게 축소해 메모리와 연산량을 절감한다. 두 번째는 잠재 시계열 {zₜ}에 적용되는 Masked Autoencoder(MAE)이다. 관측되지 않은(또는 의도적으로 마스크된) 시간 스텝을 M ⊂ T_in 으로 지정하고, 남은 관측 시점에 위치 임베딩 δₜ 을 더한다. 변환기(Transformer) 블록은 Q, K, V 행렬을 이용해 전체 시퀀스에 대한 전역 자기‑주의를 계산하고, 마스크된 토큰을 복원한다. 복원된 잠재 시퀀스 {ẑₜ}는 디코더 f_D 를 통해 물리 공간으로 역변환되어 최종 예측 {x̂ₜ}를 만든다. 학습 목표는 물리 공간 재구성 손실 L_phys = ‖x̂ₜ − xₜ‖²와 잠재 공간 재구성 손실 L_latent = ‖ẑₜ − zₜ‖²를 가중합한 L = λ·L_phys + (1 − λ)·L_latent 을 최소화하는 것이다. λ ∈