하드 샘플과 오염 이상을 구분하는 파라미터‑손실 데이터 증강 기법

초록

본 논문은 비지도 시계열 이상 탐지에서 훈련 데이터에 섞여 있는 유해한 이상 오염(Anomaly Contamination)과 학습에 도움이 되는 하드 정상 샘플(Hard Sample)을 구분하기 위해 손실값 외에 파라미터 민감도를 활용한 ‘파라미터‑손실’ 이중 지표를 제안한다. 이를 기반으로 강화학습 기반 이중 차원 보상 함수를 갖는 PLDA(Parameter‑Loss Data Augmentation) 방법을 설계하여, 훈련 과정에서 오염 데이터를 억제하고 하드 샘플을 강화한다. 다양한 시계열 데이터셋과 네 가지 기존 탐지 모델에 적용한 실험 결과, 기존 데이터 증강 기법 대비 F1 점수가 최대 8% 향상됨을 확인하였다.

상세 분석

이 연구는 비지도 시계열 이상 탐지(unsupervised TSAD)에서 훈련 세트가 완전히 정상이라고 가정하는 기존 패러다임의 한계를 지적한다. 실제 현장 데이터는 종종 라벨이 없고, 알 수 없는 이상(Anomaly Contamination, AC)이 섞여 있어 모델이 정상 패턴을 왜곡하게 만든다. 동시에, 정상 데이터 중에서도 결정 경계에 가깝게 위치한 ‘하드 샘플(Hard Sample, HS)’은 모델이 정상 패턴을 더 풍부히 학습하도록 돕는 중요한 역할을 한다. 기존 연구는 손실값이 큰 샘플을 AC로, 작은 샘플을 정상으로 구분하는 ‘small‑loss trick’에 의존했지만, HS 역시 큰 손실을 보이는 경우가 많아 구분이 어려웠다.

논문은 이를 해결하기 위해 ‘파라미터 행동(Parameter Behavior)’이라는 새로운 차원을 도입한다. 파라미터 행동은 특정 샘플에 작은 가중치 ε를 부여했을 때 최적 파라미터 θ̂가 어떻게 변하는지를 Hessian 역행렬과 그 샘플의 손실 그래디언트를 이용해 정량화한다(식 3, 4). 핵심 아이디어는 AC와 HS가 파라미터 공간에서 다른 민감도 패턴을 보인다는 점이다. 이론적으로는 파라미터 민감도가 데이터의 주파수 스펙트럼과 역관계가 있음을 증명하였다(정리 III.2). AC는 고주파 잡음 성분이 많아 파라미터가 크게 변동하지만, HS는 상대적으로 낮은 주파수 성분이 주를 이루어 파라미터 변화가 완만하다. 따라서 손실값과 파라미터 민감도를 결합하면 두 샘플을 효과적으로 구분할 수 있다.

구현 측면에서 저자들은 이중 차원 보상을 이용한 강화학습 프레임워크를 설계하였다. 상태(state)는 현재 시계열 서브시퀀스, 행동(action)은 ‘확장(expansion)’, ‘보존(preservation)’, ‘삭제(deletion)’ 중 하나이며, 보상 함수는 손실 감소와 파라미터 민감도 감소를 동시에 고려한다. Double DQN 구조를 사용해 행동‑가치 함수 Q(s,a) 를 학습하고, 적응형 슬라이딩 윈도우를 통해 시간적 연속성을 유지하면서 데이터 증강을 수행한다. 핵심 모듈은 (1) 파라미터 행동 계산, (2) 이중 차원 보상 설계, (3) 행동 선택 정책 네트워크이며, 모두 기존 TSAD 모델과 독립적으로 플러그인 형태로 연결될 수 있다.

실험에서는 10개의 공개 시계열 데이터셋과 대표적인 네 가지 TSAD 모델(예: LSTM‑AE, USAD, GDN, DAGMM 등)에 PLDA를 적용하였다. 비교 대상은 기존 데이터 증강 기법 three state‑of‑the‑art methods이며, 다양한 오염 비율(10%30%)에서도 PLDA가 평균 F1 점수를 48% 상승시켰다. 특히, AC 비율이 높을수록 성능 격차가 커지는 경향을 보였으며, 이는 파라미터 행동이 고주파 잡음에 민감하게 반응한다는 가설을 실증한다. 추가 실험으로 파라미터 행동만 사용했을 때와 손실만 사용했을 때의 성능 차이를 비교했으며, 이중 지표가 단일 지표보다 월등히 우수함을 확인하였다. 계산 비용 측면에서는 핵심 파라미터 상위 k개만 사용함으로써 전체 학습 시간에 큰 영향을 주지 않았다.

전체적으로 이 논문은 ‘손실 + 파라미터 민감도’라는 새로운 이중 차원 관점을 제시하고, 이를 강화학습 기반 데이터 증강에 적용함으로써 비지도 시계열 이상 탐지에서 훈련 데이터 오염 문제를 효과적으로 완화한다는 중요한 기여를 한다. 향후 연구에서는 파라미터 행동을 다른 모델 구조(예: 트랜스포머 기반 TSAD)에도 확장하거나, 온라인 스트리밍 환경에서 실시간으로 파라미터 민감도를 추정하는 방법을 탐색할 여지가 있다.