클래스별 마할라노비스 거리로 시계열 분류

초록

본 논문은 시계열 데이터를 최근접 이웃(NN) 분류에 적용하기 위해 마할라노비스 거리의 다양한 변형을 제안한다. 저차원·고차원 시계열에서 공분산 행렬이 저랭크가 되는 문제를 해결하기 위해 의사역행렬, 공분산 수축, 대각선 제한 세 가지 방법을 비교하고, 이를 클래스별로 학습한 거리와 결합한다. 실험 결과 DTW가 정확도 면에서 우수하지만, 마할라노비스 기반 방법은 10~100배 빠른 연산 속도를 보이며, 특히 클래스별 수축 혹은 대각선 접근법이 가장 좋은 성능을 낸다.

상세 분석

이 연구는 시계열 분류에서 거리 기반 접근법의 효율성을 재조명한다. 전통적인 유클리드 거리와 달리 마할라노비스 거리는 데이터의 공분산 구조를 반영해 차원 간 상관관계를 가중치로 활용한다. 그러나 시계열 데이터는 일반적으로 길이가 길고 샘플 수가 제한적이어서 공분산 행렬이 저랭크, 즉 특이값이 거의 0에 가까운 경우가 빈번하다. 이때 역행렬을 직접 구하면 수치 불안정성이 발생하고, 거리 계산이 의미를 잃는다. 논문은 세 가지 해결책을 제시한다. 첫째, Moore‑Penrose 의사역행렬을 사용해 특이값이 0인 방향을 무시하고 역을 취한다. 둘째, Ledoit‑Wolf 방식의 공분산 수축을 적용해 전체 공분산을 정규화된 대각선 행렬과 혼합함으로써 행렬의 조건수를 개선한다. 셋째, 완전히 대각선만 남기는 방법으로 변수 간 상관을 무시하고 각 시점의 분산만을 이용한다.

각 방법을 클래스별로 학습시키는 전략도 핵심이다. 전체 데이터에 대해 하나의 공분산을 추정하는 전통적 접근법과 달리, 클래스별 공분산을 별도로 추정하면 각 클래스 고유의 변동 패턴을 반영할 수 있다. 특히 수축 방법은 클래스 내 변동을 부드럽게 평균화하면서도 중요한 상관 구조를 보존한다. 대각선 접근법은 계산량을 O(d)로 낮추어 실시간 시스템에 적합하지만, 상관 정보를 완전히 포기한다는 트레이드오프가 있다.

실험에서는 UCR 시계열 데이터베이스의 85개 데이터셋을 대상으로 1‑NN 분류 성능을 평가했다. 비교 대상은 최신 거리 기반 방법인 Large Margin Nearest Neighbor (LMNN)와 비선형 정렬을 허용하는 Dynamic Time Warping (DTW)이다. 결과는 DTW가 평균 정확도에서 가장 높았지만, 마할라노비스 기반 방법은 10배에서 100배 정도 빠른 실행 시간을 기록했다. 특히 클래스별 수축(Mahalanobis‑Shrink)과 클래스별 대각선(Mahalanobis‑Diag) 조합이 정확도와 속도 사이에서 최적의 균형을 이루었다. LMNN은 학습 단계에서 고비용을 요구했으며, DTW는 메모리 사용량이 크게 증가한다는 한계가 있었다.

이 논문은 시계열 분류에서 “정확도 vs. 효율성” 트레이드오프를 명확히 제시한다. 고정밀도가 요구되지 않거나 실시간 처리가 필수적인 응용(예: 센서 데이터 스트리밍, 금융 시계열 모니터링)에서는 클래스별 마할라노비스 거리(특히 수축 혹은 대각선 버전)가 실용적인 대안이 된다. 또한, 저랭크 공분산 문제에 대한 세 가지 해결책을 체계적으로 비교함으로써 향후 연구가 공분산 구조를 더 정교히 모델링하거나, 비선형 변환과 결합하는 방향으로 확장될 여지를 제공한다.