베이지안 전이 연산자를 이용한 커널 다이내믹 모드 분해

초록

본 논문은 커널 기반 동적 모드 분해(DMD)와 가우시안 프로세스(GP) 회귀를 결합해 베이지안 전이 연산자를 정의한다. 변분 자유 에너지(VFE) 기법을 활용해 희소화와 하이퍼파라미터 자동 튜닝을 구현함으로써 대규모 데이터에서도 계산 비용을 크게 낮추고, 센서 노이즈에 대한 강인성을 향상시킨다. 또한, 확률적 예측과 불확실성 추정이 가능한 확장된 EDMD(Extended DMD) 프레임워크를 제시한다.

상세 분석

이 연구는 두 가지 주요 흐름을 통합한다. 첫 번째는 전이 연산자(특히 Koopman 및 Perron–Frobenius 연산자)를 재생산 커널 힐베르트 공간(RKHS) 안에서 함수형 해석적으로 다루는 기존 이론이며, 두 번째는 가우시안 프로세스(GP) 회귀를 통한 비모수적 베이지안 추정이다. 저자들은 RKHS에 정의된 커널을 공분산 함수로 해석하고, 이를 통해 무한 차원의 연산자를 확률 변수로 모델링한다. 특히, 임베디드 Perron–Frobenius 연산자(PFO)를 베이지안 관측 모델로 설정하고, 관측 노이즈를 RKHS 내의 연산자값 커널 κ_bc 로 표현한다.

핵심 수학적 기여는 다음과 같다. (1) 연산자 μ_{Y|x}=P_ε φ(x) 에 대한 사전을 무한 차원 GP GP^∞(M_pr, ξ_pr) 로 정의하고, 사전 공분산 ξ_pr 을 연산자값 커널 κ_pr 와 센서 노이즈 공분산 C_bc 의 텐서곱 형태로 전개한다. (2) 변분 자유 에너지(VFE) 기법을 적용해 희소 인덱스 Z={z_i}_{i=1}^M 을 도입, 전체 N개의 훈련 샘플을 M개의 가상 입력으로 압축한다. 이때, VFE 최적화는 기존의 O(N³) 복잡도를 O(NM²) 혹은 O(M³) 수준으로 낮추며, 동시에 하이퍼파라미터(커널 길이 스케일, 노이즈 분산 등)와 사전 공분산 C_bc 의 최적화를 공동으로 수행한다.

또한, 저자들은 베이지안 해석이 기존의 빈도주의적 EDMD와 수식적으로 동일함을 보여준다. posterior mean M_pst(x) 은 전통적인 EDMD에서 얻는 Koopman 행렬에 대한 추정과 일치하지만, 베이지안 프레임워크는 posterior covariance ξ_pst 을 제공해 다중 단계 예측 시 불확실성 추정이 가능하도록 만든다. 이는 기존 DMD/EDMD가 제공하지 못했던 중요한 기능이다.

실험 섹션에서는 (i) 고차원 유체 흐름 데이터, (ii) 잡음이 섞인 로봇 팔 궤적, (iii) 합성 비선형 맵에 대해 제안 방법을 적용한다. 결과는 (a) 희소화된 모델이 원본 커널 DMD 대비 10배 이상 빠른 학습 속도를 보이며, (b) 센서 노이즈가 20 dB 이하일 때 예측 RMSE가 기존 방법보다 30 % 이상 개선됨을 입증한다. 특히, 불확실성 밴드가 실제 오차를 잘 포괄함을 시각화해 베이지안 접근의 실용성을 강조한다.

이 논문의 의의는 세 가지로 요약할 수 있다. 첫째, 전이 연산자를 RKHS 내 베이지안 확률 변수로 공식화함으로써 커널 DMD의 이론적 기반을 강화했다. 둘째, 변분 희소 GP 기법을 도입해 대규모 데이터에서도 실시간 적용이 가능한 계산 효율성을 확보했다. 셋째, 불확실성 정량화를 통해 예측 신뢰도를 제공함으로써 제어·시뮬레이션 등 실시간 의사결정 분야에 바로 활용할 수 있는 프레임워크를 제시했다. 향후 연구에서는 비등방성 노이즈 모델링, 다중 스케일 딥 커널 설계, 그리고 강화학습과의 연계가 기대된다.