ASGMamba: 노이즈를 차단하고 효율성을 극대화하는 적응형 스펙트럼 시계열 예측 모델

초록

긴 시계열 예측에서 트랜스포머는 계산 복잡도가 높고, 선형 SSM은 노이즈에 취약한 딜레마가 있습니다. ASGMamba는 ‘적응형 스펙트럼 게이팅(ASG)‘이라는 가벼운 메커니즘을 Mamba 구조에 통합해 노이즈를 동적으로 걸러내고, 계층적 다중 스케일 설계와 변수별 임베딩으로 다양한 패턴을 포착합니다. 9개 벤치마크에서 최고 수준의 정확도를 달성하면서도 엄격한 선형 복잡도와 낮은 메모리 사용량을 유지해, 자원이 제한된 HPC 환경에 적합한 솔루션입니다.

상세 분석

본 논문이 제안하는 ASGMamba의 핵심 기술적 혁신은 ‘상태 효율성(State Efficiency)’ 문제에 대한 체계적인 접근법에 있습니다. 기존 선형 SSM(특히 Mamba)이 장기 의존성 모델링에는 효율적이지만, 시간 영역에서 유의미한 고주파 신호와 스토캐스틱 노이즈를 구분하는 데 한계가 있었습니다. 이는 제한된 상태 용량이 노이즈로 채워져 본연의 추세 모델링 능력이 저하되는 문제로, 논문에서는 이를 ‘상태 효율성’ 문제로 규정합니다.

ASGMamba는 이 문제를 해결하기 위해 두 가지 주요 전략을 도입합니다. 첫째, Adaptive Spectral Gating (ASG) 메커니즘입니다. 이는 전체 시퀀스에 대한 전역 푸리에 변환(O(L log L))을 적용하는 기존 방식과 달리, 고정 크기의 패치 단위로 FFT를 수행해 선형 복잡도(O(L))를 유지합니다. 각 패치의 국부적 스펙트럼 에너지 분포를 분석하여 데이터 의존적으로 게이트 신호를 생성합니다. 이 게이트는 고주파수 대역 중 노이즈가 지배적인 성분을 입력 단계에서 선별적으로 억제하는 필터 역할을 하여, Mamba 백본의 상태 공간이 노이즈로 오염되지 않고 강건한 동역학에 집중할 수 있도록 합니다. 이는 SSM이 복잡한 필터링 연산을 처음부터 학습해야 하는 부담을 덜어주는 ‘계산 효율적인 사전 지식(computation-efficient prior)‘으로 작동합니다.

둘째, 계층적 다중 스케일 아키텍처와 Node Embeddings입니다. 서로 다른 물리적 특성을 가진 변수들(예: 전압, 온도)을 Channel-Independent(CI) 방식으로 처리하면 효율성은 높아지지만 의미론적 문맥이 손실됩니다. 이를 보완하기 위해 각 변수에 대한 학습 가능한 Node Embedding을 도입하여, 공유 백본 내에서 변수별 특성을 회복시킵니다. 또한, 패치 크기를 달리하는(8, 16, 32) 병렬 다중 스케일 브랜치를 구성하여 단일 시간 해상도로는 포착하기 어려운 다양한 물리적 현상의 다중 시간 규모를 동시에 모델링합니다. 50% 중첩을 적용한 패칭 기법은 스펙트럼 누출을 줄이고 국부적 연속성을 보장하여 ASG의 성능을 향상시킵니다.

실험 결과는 이론적 설계의 타당성을 입증합니다. ASGMamba는 선형 복잡도의 이점을 그대로 유지하면서도, 특히 노이즈가 많고 장기 의존성이 중요한 데이터셋에서 기존 SOTA 트랜스포머 및 SSM 기반 모델들을 압도하는 정확도를 보였습니다. 더욱 중요한 것은 긴 예측 구간(Long-horizon) 작업에서 현저히 낮은 메모리 사용량과 추론 지연 시간으로, 이는 고성능 컴퓨팅(HPC) 환경에서의 실시간 대규모 시계열 예측(예: 실시간 에너지 그리드 관리, 대규모 교통 시뮬레이션)에 실제로 적용 가능한 솔루션으로서의 가치를 부여합니다. 요약하면, ASGMamba는 스펙트럼 분석의 정교함과 선형 SSM의 효율성을 성공적으로 융합하여, ‘정확도-효율성 트레이드오프’라는 시계열 예측의 오랜 난제를 해결하는 데 기여한 모델입니다.