선형 모델이 다시 뜨다 OLS 기반 시계열 이상 탐지의 새로운 강점

초록

본 논문은 복잡한 딥러닝 기반 시계열 이상 탐지 모델 대신, 과거 관측값을 입력으로 하는 단순 선형 회귀(OLS)와 저차원 축소(Reduced‑Rank Regression)를 사용한 방법이 최신 딥러닝 모델들을 일관되게 능가한다는 실험적·이론적 증거를 제시한다. 선형 모델은 유한 히스토리를 가진 가우시안 프로세스(GP)의 조건부 밀도 추정과 동등함을 보이며, 계산 비용이 크게 감소함에도 불구하고 다양한 이상 유형을 효과적으로 탐지한다.

상세 분석

이 논문은 시계열 이상 탐지(TSAD) 분야에서 “복잡한 모델이 반드시 좋은 성능을 만든다”는 기존 패러다임을 근본적으로 재검토한다. 핵심 아이디어는 과거 p개의 시점(다변량일 경우 각 차원별)을 특징 벡터 xₜ에 포함시켜, yₜ = Wᵀxₜ + εₜ 형태의 선형 회귀식을 OLS(Ordinary Least Squares) 혹은 작은 리지 정규화를 적용한 해석적 해로 학습하는 것이다. 이때 이상 점수는 단순히 제곱 예측 오차 ‖yₜ – Wᵀxₜ‖²_F 로 정의한다.

이론적으로 저자는 선형 회귀가 유한 히스토리를 가진 가우시안 프로세스(GP)의 조건부 평균과 동일함을 증명한다. GP의 커널이 정적(stationary)이라면, 히스토리 h에 대한 조건부 평균 m_h(i) = α_hᵀ y_{i‑h:i‑1} 로 표현될 수 있으며, 여기서 α_h = K_h⁻¹k_h 는 시계열 전체에 걸쳐 동일한 선형 계수를 제공한다. 따라서 α_h를 추정하는 과정은 바로 OLS 회귀와 일치한다. 이 결과는 복잡한 비선형 커널을 사용하더라도, 고정된 윈도우 내에서는 선형 모델이 최적의 조건부 밀도 추정기임을 의미한다.

다변량 경우에는 선형 코어게이션 모델(LMC) 하에서 다출력 GP를 고려한다. 각 출력은 공통의 저차원 잠재 패턴을 공유하므로, 회귀 계수 행렬 W는 저랭크(rank ≤ r) 구조를 갖는다. 이를 직접 최적화하는 대신, OLS 해에 저랭크 제약을 부여한 Reduced‑Rank Regression(RRR)을 적용하면, SVD 기반의 Eckart‑Young 정리를 이용해 최적 저랭크 근사를 얻을 수 있다. 즉, RRR은 다변량 GP의 조건부 평균을 저랭크 근사로 구현한 것과 동등하다.

계산 복잡도 측면에서 OLS는 O(T·(dp)²)이며, RRR은 추가로 O(T·d²) 정도의 SVD 비용이 든다. T≫dp·d인 실용적인 시계열 데이터에서는 여전히 선형 시간에 비례하므로, 최신 딥러닝 모델이 요구하는 GPU 메모리·연산량에 비해 수십 배에서 수백 배 정도 효율적이다.

실험에서는 30여 개의 공개 벤치마크(단변량·다변량, 이상 유형 다양)에서 OLS·RRR이 최신 Transformer‑ 기반, LSTM, AutoEncoder 등과 비교해 F1, AUROC 등 주요 지표에서 일관적으로 우수함을 보였다. 특히, 하이퍼파라미터 민감도가 낮고, 학습이 한 번의 행렬 연산으로 종료되므로 재현성이 뛰어나다.

하지만 저자는 선형 모델이 모든 이상 유형을 포괄하지는 못한다는 점도 인정한다. 급격한 비선형 전이, 복합적인 시공간 상호작용, 장기 의존성 등은 고차원 비선형 특징 추출이 필요할 수 있다. 따라서 향후 연구는 (1) 선형 모델을 강력한 베이스라인으로 채택하고, (2) 이러한 한계를 명확히 드러내는 풍부한 시계열 구조를 가진 새로운 벤치마크를 설계해야 함을 강조한다.

결론적으로, 이 논문은 “복잡성 ≠ 성능”이라는 오해를 깨고, OLS 기반 선형 회귀가 이론적 최적성(조건부 밀도 최소 위험)과 실용적 효율성을 동시에 제공한다는 강력한 증거를 제시한다. 이는 TSAD 연구 커뮤니티가 앞으로 모델 설계와 평가에 있어 보다 균형 잡힌 접근을 취하도록 촉구한다.