컨텍스트 기반 시계열 예측의 모달리티 격차 극복

초록

본 논문은 기존 멀티모달 예측 데이터의 컨텍스트 품질이 낮아 단일모달 대비 성능이 떨어지는 문제를 해결하고자, 시계열에 대한 설명적이고 예측에 보완적인 텍스트를 자동 생성·검증하는 반합성 데이터 증강 파이프라인을 제안한다. 이를 통해 7백만 개의 컨텍스트‑증강 시계열 윈도우를 포함한 CAF‑7M 데이터셋을 구축하고, 새롭게 설계한 DoubleCast 모델을 사전학습시켜 실제 ChatTime 벤치마크에 적용했을 때 기존 최첨단 멀티모달 모델을 능가함을 보인다. 결과는 데이터 품질이 모델 설계보다 CAF 성능 향상의 핵심 요인임을 시사한다.

상세 분석

이 연구는 “모달리티 격차”라 불리는 현상을 정량적으로 분석하고, 그 원인을 데이터 수준으로 귀결한다. 기존 CAF 데이터셋은 웹 스크래핑이나 템플릿 기반 텍스트와 같이 자동 생성된 컨텍스트가 실제 시계열 변동을 설명하지 못하거나, 미래 정보를 과도하게 포함해 과적합 위험을 내포한다. 저자들은 두 단계(생성 → 검증)로 구성된 파이프라인을 설계했다. 첫 단계에서는 LLM(Llama‑3.3‑70B‑Instruct)을 이용해, 주어진 히스토리와 미래값을 동시에 입력으로 시계열 동역학 변화를 설명하는 시나리오 텍스트를 생성한다. 여기서 “다양성 확보”를 위해 이전에 생성된 텍스트와 중복되지 않도록 프롬프트를 조정한다. 두 번째 단계에서는 강력한 CAF 모델인 Direct Prompt forecaster(GPT‑5.2 기반)를 사용해, 동일한 시계열에 컨텍스트를 포함했을 때와 제외했을 때의 CRPS 점수를 비교한다. CRPS가 개선된 경우에만 해당 텍스트‑시계열 쌍을 최종 데이터에 포함시켜, 컨텍스트가 실제 예측 성능에 기여함을 보장한다. 이 검증 절차는 인간 라벨링 없이도 자동화된 품질 보증을 가능하게 하며, 대규모(7 M) 데이터 구축을 실현한다.

데이터셋 CAF‑7M은 65개의 실제 시계열 소스(40개는 학습, 25개는 테스트)에서 추출된 윈도우에 위 과정을 적용해 만든다. 테스트 셋은 904개 샘플을 HARD(예측 난이도 높은)와 EASY(낮은) 두 그룹으로 균등히 나누어, 모델 평가 시 컨텍스트 활용 능력을 명확히 측정하도록 설계되었다.

모델 측면에서는 Chronos 기반 시계열 인코더와 Dual‑T5 텍스트 디코더를 결합한 DoubleCast를 제안한다. 시간‑시계열 인코더(ϕ_z)와 텍스트 인코더(ϕ_x)의 임베딩을 concat 후, 다중 레이어의 교차‑어텐션을 통해 양 모달리티를 융합한다. 사전학습 단계에서 CAF‑7M을 사용하면 텍스트와 시계열 간 정렬(alignment) 능력이 크게 향상되어, 실제 ChatTime 벤치마크에서도 컨텍스트가 없는 Chronos 대비 MAE·CRPS 모두에서 유의미한 개선을 보인다.

실험 결과는 세 가지 핵심 인사이트를 제공한다. 첫째, 반합성 데이터로 사전학습한 모델이 실제 도메인 데이터에 잘 전이된다(시뮬레이션‑투‑실제 전이). 둘째, 컨텍스트가 실제 예측에 기여하는지 여부를 정량적으로 검증하는 절차가 없었다면, 멀티모달 모델이 오히려 성능 저하를 보일 수 있음을 확인한다. 셋째, 모델 구조 자체보다 데이터 품질이 CAF 성능의 병목임을 입증한다.

이 논문은 데이터 중심 접근이 멀티모달 시계열 예측 연구에 새로운 패러다임을 제시하며, 향후 다양한 도메인에서 자동화된 컨텍스트 생성·검증 파이프라인을 적용해 고품질 CAF 데이터셋을 구축할 수 있는 기반을 제공한다.