연속 진화 풀: 온라인 시계열 예측에서 반복 개념 드리프트 관리

초록

본 논문은 개인정보 보호와 메모리 제한을 고려한 온라인 시계열 예측 환경에서, 주기적으로 재등장하는 개념 드리프트(Recurring Concept Drift)를 효과적으로 다루기 위한 프레임워크인 Continuous Evolution Pool(CEP)을 제안한다. CEP은 원시 데이터를 저장하지 않고, 평균·분산 등 저차원 통계 “유전자”만을 보관하여 개념을 식별·분류하고, 유사 개념에 가장 적합한 전문 예측기를 선택·학습한다. 개념 변화가 감지되면 새로운 예측기를 진화시켜 풀에 추가하고, 사용 빈도가 낮은 오래된 모델은 제거한다. 실험 결과, CEP은 기존 최신 방법보다 20% 이상 예측 오차를 감소시키면서 과거 데이터에 접근하지 않는다.

상세 분석

CEP의 핵심 아이디어는 “개념과 예측을 분리”하는 데 있다. 기존의 파라미터 업데이트 기반 방법은 새로운 데이터에 적응하면서 과거 지식을 파괴( catastrophic forgetting)하는 위험이 크고, 경험 재현(Experience Replay) 방식은 원시 샘플을 저장해야 하므로 개인정보 보호 규정에 위배된다. CEP은 이를 회피하기 위해 두 단계의 유전자(통계) 공간을 정의한다. 전역 유전자(z_g)는 장기 평균·분산 등 매크로 수준의 분포 변화를 포착하고, 지역 유전자(z_l)는 최근 윈도우의 미세 변동을 반영한다. 이러한 저차원 통계는 고차원 시계열 특성을 압축하면서도 드리프트를 감지하기에 충분히 민감하다.

새로운 입력이 도착하면, CEP은 현재 풀에 존재하는 모든 forecaster의 유전자와 입력의 유전자를 거리 기반(예: 유클리드)으로 비교한다. 가장 가까운 forecaster를 선택해 예측을 수행하고, 동시에 선택된 forecaster의 파라미터를 해당 배치에 대해 미니배치 SGD로 업데이트한다. 만약 거리(또는 유사도) 임계값을 초과하면, 이는 기존 모델이 현재 분포를 충분히 설명하지 못한다는 신호로 해석되어, 가장 유사한 기존 forecaster를 복제하고 새로운 파라미터를 초기화해 “진화”시킨다. 이렇게 생성된 새 모델은 새로운 개념을 전담하게 되며, 풀에 추가된다.

메모리와 연산 비용을 제한하기 위해 CEP은 주기적인 “제거(Elimination)” 정책을 적용한다. 각 forecaster는 사용 빈도와 최근 활성화 시점에 기반한 스코어를 유지하고, 일정 기간 동안 호출되지 않은 모델은 삭제된다. 이는 오래된 개념이 재등장할 가능성이 낮은 경우 메모리를 회수하고, 노이즈 개념이 풀을 오염시키는 것을 방지한다.

실험에서는 전력 소비, 교통량, 금융 시계열 등 4개의 실제 데이터셋에 대해, 딜레이 피드백(예측 후 라벨이 지연되어 도착) 상황을 시뮬레이션하였다. CEP은 DLinear, Informer, Autoformer 등 최신 시계열 모델을 백본으로 사용하면서, DER++, FSNet, OneNet 등 기존 드리프트 대응 기법과 비교했다. 평균 절대오차(MAE)와 평균 제곱근오차(RMSE) 기준에서 CEP은 20~28% 정도의 개선을 보였으며, 메모리 사용량은 30% 이하로 감소했다. 특히, 동일한 개념이 3회 이상 재등장할 때 CEP의 성능 향상이 두드러졌으며, 이는 “전문가 모델 재활용” 메커니즘이 효과적임을 입증한다.

보안 측면에서 CEP은 원시 시계열 데이터를 전혀 저장하지 않으며, 유전자만을 저장한다. 유전자는 평균·분산 수준의 집계값이므로 역추적 공격에 취약하지 않다. 또한, 모델 파라미터 자체도 암호화된 형태로 저장 가능해, 실무 적용 시 GDPR·CCPA 등 규제 준수가 용이하다.

종합하면, CEP은 (1) 개념 식별을 통계 유전자로 저비용 구현, (2) 새로운 개념 발생 시 빠른 모델 진화, (3) 메모리 제한 하에서 오래된 모델 자동 제거, (4) 개인정보 보호를 위한 원시 데이터 비저장이라는 네 가지 핵심 설계 원칙을 성공적으로 결합한 프레임워크라 할 수 있다.