시계열 예측 일반화를 위한 개념 드리프트 완화와 시프트 보정 프레임워크

초록

본 논문은 시계열 예측에서 발생하는 두 종류의 분포 이동, 즉 시간적 시프트와 개념 드리프트를 명확히 구분하고, 기존 연구가 주로 시간적 시프트에만 집중한 한계를 지적한다. 저자는 **Soft Attention Masking (SAM)**을 통해 lookback과 horizon 구간 모두에서 불변 패턴을 추출하고, 이를 Surrogate Feature X_SUR 로 변환한다. 이후 ShifTS라는 모델‑agnostic 파이프라인으로 먼저 데이터 정규화를 통한 시간적 시프트를 보정하고, 이어서 SAM 기반 개념 드리프트 완화를 적용한다. 다양한 공개 시계열 데이터셋과 최신 예측 모델에 대한 실험 결과, ShifTS가 기존 시프트·드리프트 방법들을 일관되게 능가함을 입증한다.

상세 분석

본 연구는 시계열 예측에서 “분포 이동”을 두 축으로 정의한다. Temporal Shift는 마진 분포(P(Y_H), P(Y_L) 등)가 시간에 따라 변하지만 조건부 분포는 일정한 경우이며, Concept Drift는 조건부 분포 P(Y_H|X_L) 자체가 변하는 상황을 의미한다. 기존 시계열 문헌은 대부분 Temporal Shift를 정규화(Instance Normalization, Batch Normalization 등) 혹은 윈도우 기반 변환으로 완화했지만, Concept Drift에 대한 체계적인 접근은 부족했다. 특히, 일반적인 invariant learning 기법은 환경 라벨이 필요하고, 모든 외생 변수(X)가 관측 가능하다는 전제에 의존한다는 점에서 시계열 데이터에 바로 적용하기 어렵다.

저자는 두 가지 핵심 아이디어를 제시한다. 첫째, lookback(L)과 horizon(H) 정보를 동시에 활용해 조건부 분포를 P(Y_H|X_L, X_H) 로 확장한다. 이는 미래 외생 변수 X_H가 현재 목표에 미치는 인과 관계를 포착함으로써, 단순히 과거만을 이용하는 모델보다 더 안정적인 조건부 분포를 학습할 수 있게 한다. 둘째, 실제 테스트 시점에서는 X_H가 알 수 없으므로, 전체 시계열을 슬라이딩 윈도우(H) 크기로 자른 뒤 Soft Attention Masking (SAM) 을 적용한다. SAM은 학습 가능한 가중치 행렬 M에 Softmax, Sparsity, Normalization을 차례로 수행해, 각 슬라이스가 목표 Y_H와 얼마나 일관된 상관관계를 유지하는지 평가한다. 높은 가중치를 받은 슬라이스들만을 집계해 Surrogate Feature X_SUR 를 만든다. X_SUR는 “불변 패턴”을 압축한 표현으로, P(Y_H|X_SUR) 를 학습하면 개념 드리프트에 강인한 모델을 얻을 수 있다.

시간적 시프트 보정은 ShifTS 파이프라인의 앞단에서 수행된다. 입력 시계열과 목표 시계열을 각각 평균·분산이 0·1이 되도록 정규화하고, 예측 후에는 동일한 통계량을 사용해 역정규화한다. 이렇게 마진 분포를 고정하면, SAM이 학습하는 가중치가 순수히 조건부 관계에만 집중할 수 있다. 전체 흐름은 (1) 정규화 → (2) SAM 기반 X_SUR 추정 → (3) X_SUR와 기존 lookback Y_L을 이용한 최종 예측 → (4) 역정규화 로 구성된다. 모델‑agnostic 특성 덕분에 Transformer, LSTM, N‑BEATS 등 다양한 베이스라인에 그대로 적용 가능하다.

실험에서는 6개 이상의 공개 시계열 데이터셋(전력 소비, 교통 흐름, 질병 감시 등)과 4가지 최신 예측 모델을 조합해 24가지 설정을 평가했다. ShifTS는 평균 MAE/SMAPE 기준 3~9% 정도의 절대적 개선을 보였으며, 특히 개념 드리프트가 강하게 나타나는 합성 데이터에서 기존 Temporal Shift 전용 방법보다 월등히 좋은 성능을 기록했다. Ablation Study에서는 (a) Temporal Shift 정규화 없이 SAM만 적용했을 때 성능 저하, (b) SAM의 Sparsity 제어를 없앨 경우 잡음 패턴이 포함돼 성능이 감소함을 확인했다. 이는 두 단계가 상호 보완적으로 작동한다는 증거다.

한계점으로는 (1) X_SUR를 추정하기 위한 추가 손실 L_SUR가 실제 예측에 미치는 영향이 데이터마다 다를 수 있어 하이퍼파라미터 튜닝이 필요하고, (2) 매우 긴 horizon을 갖는 경우 슬라이딩 윈도우 수가 급증해 메모리·연산 비용이 증가한다는 점이다. 또한, SAM이 “불변”이라고 판단하는 패턴이 실제 인과 관계인지 여부를 검증하기 위한 도메인 지식이 부족할 경우, 과도한 일반화가 발생할 가능성도 있다. 향후 연구에서는 (i) 베이지안 방법으로 불변 패턴의 불확실성을 정량화하고, (ii) 온라인/스트리밍 환경에서도 실시간으로 X_SUR를 업데이트하는 메커니즘을 설계하는 방향이 기대된다.

전반적으로, 이 논문은 시계열 예측에서 개념 드리프트를 다루기 위한 새로운 패러다임을 제시하고, Temporal Shift와 Concept Drift를 순차적으로 해결하는 통합 프레임워크인 ShifTS를 통해 실용적인 성능 향상을 입증했다. 모델‑agnostic 설계와 풍부한 실험이 강점이며, 향후 다양한 도메인에 적용 가능한 확장성이 큰 연구라고 평가할 수 있다.