딥 시계열 예측을 위한 커널화 모멘트 밸런싱 혁신

초록

본 논문은 딥 시계열 예측을 분포 균형 문제로 정의하고, 기존 손실이 Imbens 기준을 만족하지 못함을 지적한다. RKHS에서 자동으로 정보량이 높은 밸런싱 함수를 선택해 첫 번째 모멘트를 맞추는 KMB-DF를 제안하고, 차분 가능한 목적함수를 유도한다. 실험을 통해 다양한 모델·데이터셋에서 정확도가 향상되고 최첨단 성능을 달성함을 보인다.

상세 분석

이 연구는 시계열 예측 모델이 라벨 자동상관을 무시하는 전통적 MSE 손실의 편향성을 이론적으로 증명하고, Imbens & Rubin이 제시한 “모든 균형 함수에 대해 첫 번째 모멘트가 일치한다”는 기준을 적용한다. 기존 연구들은 Fourier 변환, PCA, 메타‑학습된 선형 매핑 등 제한된 1~2개의 ϕ 함수만을 맞추어 전체 분포 균형을 달성하지 못한다는 점을 명확히 한다. 이를 해결하기 위해 저자들은 재현 커널 힐베르트 공간(RKHS)의 보편적 커널(예: 가우시안 커널)을 이용해 무한히 많은 연속 함수들을 근사한다. 핵심 아이디어는 데이터 샘플을 앵커로 삼아 K(Z,·) 형태의 밸런싱 함수를 생성하고, 각 함수가 감지하는 불균형 정도 δk를 계산해 정보량이 큰 상위 K개만 선택한다. 이렇게 선택된 함수 집합은 선형 결합으로 최적 판별 함수를 근사할 수 있다는 정리(정리 3.3)를 기반으로, 전체 분포 P(Z)와 예측 분포 P(ĤZ) 사이의 균형을 보장한다. 또한, 등식 제약을 완화하기 위해 소프트‑마진 형태의 라그랑주 승수를 도입해 미분 가능하고 효율적인 목적함수 L(θ)=‖Y−ĤY‖²+λ∑k|Δk|²를 얻는다. 이 목적함수는 기존 손실에 추가적인 정규화 항을 더함으로써, 학습 과정에서 자동으로 라벨 자동상관을 보정하고, 예측 분포가 실제 라벨 분포와 일치하도록 유도한다. 실험에서는 Transformer, LSTM, Linear 등 7가지 모델과 6개 공개 데이터셋을 대상으로, KMB‑DF가 MSE, SoftDTW, FreDF 등 기존 방법 대비 평균 3.2 %~5.8 %의 MAE/SMAPE 개선을 달성했으며, 특히 변동성이 큰 금융 시계열에서 가장 큰 효과를 보였다. 코드와 데이터는 공개 저장소에 제공돼 재현 가능성을 확보한다.