과거와 미래를 잇는 시계열 정렬 프레임워크 TimeAlign

초록

TimeAlign은 예측과 재구성 두 개의 브랜치를 동시에 학습시켜 과거 입력과 미래 목표 사이의 분포 차이를 정렬한다. 전역·국부 정렬 손실을 이용해 두 브랜치의 잠재 표현을 맞추고, 고주파 성분을 보존함으로써 기존 시계열 예측 모델이 저주파에만 의존하는 문제를 해결한다.

상세 분석

본 논문은 현대 시계열 예측 모델이 “역사 → 예측”이라는 단방향 구조에 머무르면서 발생하는 세 가지 근본적인 한계를 지적한다. 첫째, 손실 함수가 MSE·MAE와 같은 저주파 중심의 오류 최소화에 초점이 맞춰져 있어 모델이 저주파 주기성을 과도하게 학습하고, 급격한 변동을 담은 고주파 신호를 무시한다는 점이다. 저주파만을 재현하면 예측이 과거 패턴을 그대로 복제하는 수준에 머물러 실제 변동성을 포착하지 못한다. 둘째, 과거와 미래의 통계적 특성이 다르기 때문에 히스토리에서 추출된 임베딩이 목표 분포와 불일치한다. 이는 분포 이동(distribution shift) 문제로, 예측 단계에서 임베딩을 직접 매핑하면 정보 손실이 발생한다. 셋째, 기존 파이프라인은 인코더‑디코더 구조가 일방향으로 흐르면서 깊은 레이어를 거칠수록 고주파 성분이 점점 스무딩되어 사라진다. 이러한 구조적 결함은 외부 이벤트에 의해 발생하는 급격한 변동을 포착하지 못하게 만든다.

TimeAlign은 이러한 문제를 해결하기 위해 두 개의 병렬 브랜치를 도입한다. Predict 브랜치는 기존 예측 모델과 동일하게 과거 X를 인코딩해 미래 Ŷ를 생성한다. Reconstruct 브랜치는 목표 시계열 Y 자체를 입력으로 받아 동일한 인코더 구조로 임베딩 H_y를 만든 뒤, 이를 다시 Ŷ_recon으로 복원한다. 재구성 작업은 입력과 출력이 동일하기 때문에 H_y는 자연스럽게 목표 분포에 정렬된 표현을 제공한다.

핵심은 두 브랜치의 잠재 표현을 정렬하는 ‘Distribution‑Aware Alignment’ 모듈이다. 정렬은 전역 정렬(global alignment)과 토큰‑레벨 로컬 정렬(local alignment) 두 단계로 이루어진다. 전역 정렬은 예측 브랜치의 출력 H_x에 가벼운 선형 매핑 ˜H_x를 적용한 뒤, 평균·분산 기반의 MMD(또는 KL) 손실로 H_y와 분포를 맞춘다. 로컬 정렬은 패치 단위 코사인 유사도 혹은 거리 행렬을 이용해 각 토큰(패치) 간 일관성을 강제한다. 이때 정렬 손실에 가중치를 동적으로 부여하는 ‘Dynamic Weighting’ 기법을 도입해 학습 초기에 전역 정렬에, 후기에 로컬 정렬에 더 큰 비중을 둔다.

이러한 정렬 메커니즘은 두 가지 이론적 효과를 제공한다. 첫째, 재구성 손실이 목표 분포에 대한 충분한 정보를 제공함으로써 일반화 경계가 개선된다는 증명을 제시한다(Section B). 둘째, 정렬 과정이 예측 표현과 목표 사이의 상호 정보(mutual information)를 증가시켜, 정보 이론적 관점에서 예측 정확도를 높인다는 정리를 제시한다(Section C).

실험에서는 8개의 공개 시계열 벤치마크(ETTh, ETTm, Traffic, Electricity 등)에서 기존 최첨단 모델(N‑HiTS, PatchTST, DLinear 등)에 TimeAlign을 플러그인 형태로 적용했을 때 평균 14 %~45 %의 MAE/SMAPE 개선을 기록했다. 특히 고주파 성분 비율이 높은 데이터셋에서 개선 폭이 크게 나타났으며, 스펙트럼 분석 결과 정렬 후 고주파 에너지 비율이 크게 회복되는 것을 확인했다. 또한, 정렬 없이 단순 재구성만 적용했을 때는 미미한 개선에 그쳤으며, 정렬이 핵심적인 역할을 함을 실증하였다.

요약하면, TimeAlign은 (1) 예측과 재구성 두 브랜치를 공동 학습해 목표 분포에 대한 직접적인 정규화를 제공하고, (2) 전·후 전역·국부 정렬을 통해 잠재 공간을 일치시켜 고주파 정보를 보존하며, (3) 기존 예측 모델에 최소한의 오버헤드만 추가해 플러그‑인 방식으로 적용 가능하게 만든다. 이 접근법은 시계열 예측 분야에서 표현 학습을 재조명하고, 분포 이동과 주파수 불균형 문제를 동시에 해결하는 새로운 패러다임을 제시한다.