시계열 예측을 위한 이질분산 인식 위치‑스케일 VAE

본 논문은 시계열 예측에서 시간에 따라 변하는 조건부 분산(이질분산)을 명시적으로 모델링하는 Location‑Scale Gaussian VAE(LSG‑VAE)를 제안한다. 기존 비자기회귀 생성 모델이 MSE 기반 손실로 동질분산을 가정하는 한계를 극복하기 위해, 예측 평균과 시점별 분산을 동시에 추정하는 위치‑스케일 가능도 함수를 도입한다. 이를 통해 변동성이 큰 구간을 자동으로 가중치 감소시키는 적응 감쇠 메커니즘을 구현하고, 실험에서 9개 …

저자: Yijun Wang, Qiyuan Zhuang, Xiu-Shen Wei

시계열 예측을 위한 이질분산 인식 위치‑스케일 VAE
본 논문은 확률적 시계열 예측(Probabilistic Time Series Forecasting, PTSF)에서 실세계 데이터가 보이는 시간에 따라 변하는 조건부 분산, 즉 이질분산(heteroscedasticity)을 명시적으로 모델링하는 새로운 프레임워크인 Location‑Scale Gaussian Variational Autoencoder(LSG‑VAE)를 제안한다. 기존의 비자기회귀 생성 모델들—예를 들어 TimeVAE, K²VAE—은 MSE 기반 손실을 사용함으로써 암묵적으로 동일한 분산을 가정하고, 이는 변동성이 큰 구간에서 평균 예측이 과도하게 흔들리게 만들어 예측 정확도와 불확실성 캘리브레이션을 저해한다. LSG‑VAE는 이러한 한계를 극복하기 위해 세 가지 핵심 설계를 도입한다. 첫째, 디코더를 위치‑스케일 듀얼 헤드 구조로 설계해 평균(µ)과 시점별 표준편차(σ)를 동시에 출력한다. σ는 Softplus와 작은 상수 ξ를 통해 양수로 강제하고, 로그‑분산 형태로 학습한다. 둘째, ELBO 최적화 시 재구성 및 미래 예측 손실을 이질분산 가우시안 음의 로그우도(NLL) 형태로 정의한다. NLL의 그래디언트는 1/σ²에 비례해 가중치를 조정하므로, 변동성이 큰 관측치에 대한 손실 기여가 자연스럽게 감소하는 적응 감쇠(adaptive attenuation) 메커니즘이 자동으로 발생한다. 셋째, 비자기회귀 전역 잠재역학 모듈을 도입해 과거 잠재 상태 Z_past를 평탄화 후 선형 투영으로 미래 잠재 상태 Z_future를 한 번에 생성한다. 이 설계는 순환 구조가 초래하는 오류 누적과 높은 연산 지연을 회피하면서, 전체 예측 구간을 병렬로 생성할 수 있게 한다. 구체적인 모델 파이프라인은 다음과 같다. 입력 시계열 X는 RevIN(역정규화)으로 비정상성을 완화한 뒤, 일정 길이 패치(P)로 분할된다. 패치 기반 변분 인코더 E_ϕ는 각 패치를 평균 µ_z와 표준편차 σ_z를 갖는 대각 가우시안 q_ϕ(Z_past|P)로 매핑한다. 재파라미터화 트릭을 이용해 Z_past를 샘플링하고, 이를 평탄화 후 Projection 함수를 통해 Z_future를 얻는다. 공유 MLP 디코더 D_ψ는 Z_past와 Z_future 모두에 동일하게 적용되며, 출력 차원을 두 부분으로 분할해 위치 헤드와 스케일 헤드를 만든다. 위치 헤드는 RevIN 역변환을 거쳐 최종 평균 예측 µ를 산출하고, 스케일 헤드는 Softplus를 통해 σ를 산출한다. 학습 목표는 다음과 같다. L = L_rec(X|Z) + L_pred(Y|Z) + β·KL(q_ϕ(Z_past|P)‖N(0,I)) 여기서 L_rec와 L_pred는 각각 재구성 및 예측 단계에서 이질분산 NLL을 사용한다. NLL 식은 1/T·C·∑

원본 논문

고화질 논문을 불러오는 중입니다...

댓글 및 학술 토론

Loading comments...

의견 남기기